딥러닝 아버지 "AI가 AI설계 시대 온다…통제가능한 지금이 안전판 만들때"

“설득 능력에서 인간을 앞선 인공지능(AI)이 ‘나쁜 손’을 통해 여론 조작에 파인튜닝(최적화)된다면 민주국가 시민들의 생각을 움직일 수 있게 됩니다. 악의적인 목표를 지닌 특정 국가 및 정치 세력이 AI를 심리 조작, 무기 설계, 해킹 등에 사용하고 폭주하는 AI가 스스로 복제하는 ‘레드라인’을 넘기 전에 AI에 대한 통제 방안을 서둘러 마련해야 합니다.”

AI 분야의 ‘구루’로 손꼽히는 요슈아 벤지오 몬트리올대 교수가 최근 서울경제신문과 진행한 화상 인터뷰에서 “AI 위기가 핵 위기보다 훨씬 위험할 수 있다”고 강조했다. AI가 핵무기처럼 전략무기화한 현재, 각국이 보다 강력한 AI 개발을 위해 안전성을 도외시한다면 통제되지 않는 AI의 폭주를 인간이 막아설 방법이 없다는 우려에서다.

벤지오 교수는 ‘딥러닝의 창시자’ 혹은 ‘생성성 AI의 아버지’라는 별칭으로도 잘 알려져 있다. 그는 2006년 네트워크를 쪼개 순차적으로 학습시키는 방식을 제안해 'AI 겨울'을 끝내고 딥러닝의 가능성을 열었다는 평가를 받고 있다. 2014년에는 인공 신경망으로 사진을 생성하는 생성적적대신경망(GAN)과 ‘어텐션’ 개념을 세계 최초로 제안하기도 했다. 어텐션은 대규모언어모델(LLM)을 탄생하게 한 ‘트랜스포머’ 구조의 기틀이다. 그는 이 공로로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수 겸 메타 수석 AI 과학자와 함께 2018년 ‘컴퓨터과학계의 노벨상’으로 불리는 튜링상을 받았다. 최근에는 이들 세 명에 앤드루 응 스탠퍼드 교수를 포함해 'AI 4대 천왕'이라 부른다.

최근 들어 벤지오 교수는 ‘AI 경고론자’로도 이름을 떨치고 있다. 지난해는 일론 머스크 테슬라 최고경영자(CEO) 등과 함께 AI 개발을 6개월간 멈추자는 성명을 냈고 올 3월에는 힌튼 교수 등과 “AI 위험을 막기 위해서는 냉전시대 핵 전쟁을 막기 위해 투입했던 수준의 전 세계적 관심과 공동 노력이 필요하다”는 공동 성명을 내기도 했다.

벤지오 교수를 ‘AI 경고론의 기수’로 돌아서게 한 ‘결정적인 사건’은 챗GPT의 등장이다. “챗GPT의 등장이 (AI에 대한) 내 생각을 근본적으로 바꿨다”며 “2022년 겨울 챗GPT 출시 이후 생각했던 것보다 범용인공지능(AGI)에 훨씬 가까워졌다는 사실을 깨닫게 됐고 이는 곧 두려움으로 다가왔다”고 고백했다.

AGI는 모든 면에서 인간과 같거나 높은 수준을 지닌다. 인간이 인간 지능의 작동 원리를 정확히 알지 못한다는 점을 고려할 때 이보다 훨씬 복잡한 딥러닝·AI의 구동 원리는 더 파악하고 이해하기 어려울 수밖에 없다. 벤지오 교수는 “AGI의 위험을 완벽하게 파악하지 못하고 있다는 것은 이미 인간의 통제 범위를 넘어섰다는 얘기”라며 “AGI의 위험을 진심으로 심각하게 받아들여야 한다”고 강조했다. 그는 “내 아이와 손주들이 미래를 가질 수 없다는 일말의 가능성을 없애기 위해 무언가를 해야 한다는 강력한 책임감을 갖게 됐다”고도 말했다.

시간이 갈수록 AI 연구에 가속도가 붙고 있다는 점 역시 벤지오 교수가 ‘AI 파수꾼’ 역할을 자처하게 된 배경이다. 벤지오 교수는 AI를 연구하는 데 최적화한 AI가 탄생한다면 AI 기술이 엄청난 속도로 발전할 수 있다고 우려하고 있다. 이는 현재 모든 AI 개발 업체들이 집중하고 있는 연구 분야이기도 하다. 벤지오 교수는 “인간의 모든 능력을 복제할 필요 없이 AI 연구에만 파인튜닝한 AI가 탄생한다면 AI에 의해 다음 세대 AI가 설계돼 발전 속도가 엄청나게 가속화할 것”이라며 “현재는 AI의 ‘학습 절차’에 대해서는 이해할 수 있으나 다음 단계부터는 인간의 능력을 넘어서는, 아예 이해할 수 없는 미지의 영역으로 들어서게 된다”고 우려했다.

벤지오 교수가 AI 위협에 대해 상상하는 최악의 시나리오는 ‘인간 통제의 상실’에 따른 인류 절멸이다. 그는 “영화 터미네이터에 나오는 ‘스카이넷’이 현실적이라고 생각하지 않지만 영화 속 AI가 보여주는 ‘의도’에 대해서는 진지하게 고민할 필요가 있다”며 “현재 인류가 성취한 AI 기술 수준은 ‘AI가 인류와 정확하게 일치하는 의도를 가질 것’이라 보장할 수 있는, 명확한 답을 주지 못하고 있다”고 지적했다.



극단적인 예로 인간을 뛰어넘는 AGI가 자기 보존 목표를 갖게 된다면 생존을 위해 인류를 제거해야 한다는 판단을 내릴 수도 있다는 것이다. 벤지오 교수는 “인류를 제거하는 가장 쉬운 방법은 핵무기가 아닌 생물학 무기 설계”라며 “인류 최고의 생물학자보다 똑똑한 컴퓨터가 이를 설계한다면 우리로서는 대응할 시간도, 수단도 없다”고 말했다. 이런 이유로 AI가 핵보다 훨씬 위험하다고 단언했다. 그는 “핵전쟁이 벌어진다면 수십억 명이 죽더라도 일부는 생존하겠지만 초인적인 AI가 인류 절멸을 원한다면 단 한 명의 인간도 남기지 않을 것”이라고 우려했다.

벤지오 교수는 AGI가 등장하기 전인, 적어도 우리가 AI를 이해하고 통제할 수 있는 바로 지금 AI에 대한 통제 방안을 마련해야 한다고 촉구한다. 하지만 이미 AI는 세계 각국의 전략무기로 쓰이며 통제가 어려워지고 있다. 그는 “세계 각국, 혹은 한 국가 내 여러 정치 세력의 이해 관계가 얽힌 정치적 문제가 인류가 직면한 매우 중요한 난제”라며 “각국이 AI를 군사 및 국가 안보를 위한 효과적인 도구라는 점을 인지하면 AI 주권을 절대로 포기하지 않을 것이기 때문에 학계가 AI 위험을 정확히 분석해 정책 입안자와 정부들을 설득해야 한다”고 제안했다.

그는 “미국과 같은 패권 국가들이 AGI 통제력 상실을 인류에 대한 ‘실존적 위험’으로 받아들이지 않는 상황에서는 그 어떤 국제기구가 나선다고 해도 자국의 AI를 통제하도록 허용하지 않을 것”이라고 단언했다.

이렇듯 어두운 전망에도 벤지오 교수는 아직까지는 희망이 있다고 말한다. 컴퓨터 과학자답게 그는 기술적인 해법을 내놓았다. AI가 작동하는 기반인 하드웨어, 즉 반도체 단계에서 위험한 AI 연구를 원천적으로 차단하는 방안이 제시됐다. 벤지오 교수는 “핵무기에 대한 상호 검증 시스템처럼 AI 칩에 하드웨어 기반 거버넌스를 도입하는 여러 논문들이 나와 있다”며 “AI 칩을 승인된 용도 외에는 사용할 수 없게 하고 국제기구 같은 중립적인 기관에서 이를 제어하도록 하면 된다”고 설명했다.

학계가 AGI 개발에 앞서 AI 안전에 대한 연구에 힘써야 한다고도 강조했다. 그는 “학계가 안전한 AGI 구축에 대한 답을 내놓지 못한다면 각국 정부가 올바른 선택을 하도록 도울 수 없다”며 “기술적으로 통용할 수 있는 ‘보호책’을 마련해 국가 간 경쟁에서 뒤지지 않을 것이라는 믿음을 준다면 (각국 정부가 지금처럼) 천문학적 비용을 치르면서까지 개발하려 하지 않을 것”이라고 전망했다.

▲요슈아 벤지오 교수는…

△1964년 프랑스 파리 △1991년 맥길대 컴퓨터과학 박사 △1991~1993년 MIT, AT＆T 벨 연구소 박사 후 연구원 △1993년~ 몬트리올대 컴퓨터과학과 교수 △2014년 생성적적대신경망(GAN) 논문 발표 △2015년 딥러닝 논문 공저 △2018년 튜링상 △2019년 캐나다 고등연구소(CIFAR) AI 자문위 의장 △2020년 런던 왕립 학회 펠로 △2023년 유엔 과학 자문위 위원