‘인공지능의 대부(Godfather of AI)’로 불리는 제프리 힌턴 토론토대 명예교수가 컴퓨터과학자로서는 최초로 노벨 물리학상의 영예를 안게 됐다.

2018년 컴퓨터 과학계의 노벨상으로 불리는 ‘튜링상’을 공동 수상한 데 이어 노벨물리학상을 공동 수상하게 된 것이다. 8일(현지 시간) 스웨덴 왕립과학한림원 노벨위원회 노벨위원회 측은 “‘인공신경망을 이용한 머신러닝을 가능케 하는 기반 발견 및 발명’에 관해 혁혁한 공로를 세운 점을 높게 평가했다”고 밝혔다.

과학계에서는 컴퓨터과학자의 물리학상 수상을 두고 놀랍다는 반응을 뵈기도 했다. 노벨위원회는 “AI가 물리학과는 무관해 보일 수 있지만 힌턴 교수가 ‘볼츠만 머신(대규모 데이터 세트에서 패턴을 학습하고 추출할 수 있는 신경망 모델)’을 개발하면서 물리학의 기본 개념과 방법을 사용했다”며 연구의 뿌리를 물리학에 두고 있다는 점에 주목했다. 이어 다음 날 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 노벨 화학상 수상자로 공동 선정되면서 최근 몇년 간 거스를 수 없는 흐름이 된 AI가 경계 없이 모든 학문 분야에 영향을 주고받고 있다는 점을 확인할 수 있는 부분이다.

힌턴 교수의 노벨물리학상 수상은 한때 AI 연구의 변방에 존재했던 ‘딥러닝’이 주류로 올라선 과정이자 반 세기에 가까운 ‘AI혹한기(AI윈터)’에 낙담하지 않은 한 과학자의 투지가 만들어낸 반전의 드라마로 꼽힌다.

본지는 생성형 인공지능(AI) 붐 이전인 2022년 7월 힌턴 교수를 캐나다 토론토 자택에서 한 시간 넘게 단독 인터뷰하면서 그의 과학자로서의 여정과 앞으로의 비전을 풍성히 담아낸 바 있다. (인터뷰는 챗GPT 출시(2022년 11월), 구글 퇴사(2023년 5월) 이전에 진행됐다.) 힌턴 교수의 노벨상 수상을 맞아 책으로도 소개된 적 없는 그의 과학자로서의 여정을 인터뷰를 통해 따라가 보겠다.

한 과학자의 끈질긴 호기심이 틔운 싹 딥러닝

“호기심이 이끄는 연구를 하는 기초연구자들을 발굴하고 지속적인 지원을 하는 것이 가장 중요합니다. 그것이 커다란 발전(breakthrough)을 일으킬 수 있는 핵심 지점입니다."

평소 효율적이고 절제된 화법을 구사하는 제프리 힌턴 토론토대 명예 교수는 2022년 7월 19일(현지 시간) 캐나다 토론토 자택에서 서울경제와의 한 시간 넘게 진행된 인터뷰에서 ‘호기심이 이끄는 연구’를 다섯 차례나 강조했다.

힌턴 교수가 한국 언론과 대면 인터뷰를 한 것은 이번이 처음이다. 힌턴 교수는 2012년 당시 학계에서는 통용되지 않던 심층신경망(deep neural networks)을 이용한 학습 방식인 딥러닝을 통해 이미지 인식 성공률을 획기적으로 끌어올리며 AI의 부흥기를 이끌었다.

이는 그가 연구자로 살아온 반세기 동안의 경험에서 우러나온 것이다. 1978년 그가 영국 에든버러대에서 인공지능(AI) 분야의 박사 학위를 땄을 때만 해도 그를 주목하는 이는 아무도 없었다. 당시 학계에는 인간이 만든 규칙을 학습시키면 이를 바탕으로 추론을 할 수 있다는 ‘기호주의 인공지능(Symbolic AI)’ 접근이 주류를 이뤘다. 하지만 그는 학계의 유행을 따르지 않았다. 그를 사로잡은 건 ‘인간의 뇌는 어떻게 작동하는가’에 대한 끝없는 질문이었다. 심리학과 생물학에 대한 이해도가 높았던 그는 인간의 뇌가 작동하는 방식은 기호주의 접근과는 다르다고 확신했다. AI를 인간의 뇌처럼 학습시킬 방법을 찾기 위해 당시 이론으로만 존재하던 심층신경망을 토대로 한 딥러닝을 연구했다. 이후 미국 카네기멜런대에서 교수 생활을 시작해 1987년 캐나다 토론토대에 정착한 그는 2012년 세계 최대 이미지 인식 경연 대회 ‘ILSVRC’에서 압도적인 인식 성공률 차이로 우승하기까지 35년간 변방에서 묵묵히 연구를 계속했다. 2015년 네이처지에 얀 르쾽, 조슈아 벤지오와 함께 딥러닝 논문을 발표하고 2016년 이세돌 9단과 세기의 대결을 펼친 AI 알파고(AlphaGo)가 대중에 알려지면서 오늘날 AI 열풍의 선구자로 자리잡게 됐다.

힌턴 교수는 자신을 줄곧 연구에 매달리게 한 동력은 “뇌가 어떻게 작동하는지 알고 싶다는 호기심”이었다고 말한다. 호기심을 뚝심으로 바꾼 건 어린 시절의 깨달음이 평생에 걸쳐 영향을 미쳤다. 그는 “일곱 살 때 처음 간 학교가 종교적인 색채를 띠었는데 학교에서 하는 말을 그대로 받아들인 친구들과 달리 나는 그렇지 않았다”며 “처음으로 사람들은 누구나 틀릴 수 있다는 생각을 하게 된 그때의 경험이 ‘다른 연구자들도 틀릴 수 있다’는 생각을 갖고 연구를 지속하게 된 바탕이 됐다”고 술회했다.

많은 대가들이 한때 빛나는 연구 성과를 보이더라도 점차 ‘피인용 횟수’가 줄어들며 과거의 역사로 남는 경우가 많지만 힌턴 교수는 여전히 후배 연구자들에게 막대한 영향을 미치고 있다. 구글 스콜라에 따르면 힌턴의 전체 논문 피인용 횟수 85만3582건(2024년 10월 기준) 65%에 달하는 56만105건이 최근 5년 간 이뤄졌다. 연구자들이라면 모두 혀를 내두를 만한 현재 진행형의 업적이다.

6쪽 제안서로도 3~5년 안정적 펀딩…토론토의 강점 만들어

그가 미국을 떠나 캐나다에 정착한 것은 기초과학 분야에 안정적으로 펀딩이 이뤄지는 환경 때문이다. 힌턴 교수는 “미국만큼 펀딩 규모가 크지는 않지만 캐나다는 기초연구에 상당 부분의 투자를 집행한다”며 “미국의 교수들이 연구 자금 지원을 받기 위한 제안서를 쓰느라 대부분의 시간을 써야 할 정도인 반면 캐나다에서는 6쪽 정도의 제안서만 내도 3~5년 펀딩을 받을 수 있다”고 말했다. 연구의 주제를 제약하지 않고 연구자들이 자신이 순수한 호기심을 충족할 수 있도록 기본 펀딩을 제공해주는 구조라는 설명이다. 이외에도 캐나다의 기본 의료 보험을 포함한 훌륭한 사회보장 시스템, 이민자에게 우호적인 시스템 등이 결정에 영향을 미쳤다. 그는 “캐나다는 이민자에게 호의적인 거의 유일한 국가”라며 “매우 다양성이 높은 문화를 가지고 있고 환대하는 분위기가 있어 전세계 과학자들에게 굉장히 매력적"이라고 짚었다. 또 그는 “현재 나는 여럿의 훌륭한 이란 과학자들과도 일하고 있는데 미국이라면 쉽지 않았을 것"이라고 덧붙였다.

힌턴 교수는 성과나 목표 지향적 태도를 경계한 캐나다 정부의 기초연구 투자가 오늘날 캐나다를 AI 분야의 리더로 만들었다고 말했다. 캐나다는 2017년 세계 최초로 범국가 AI 전략을 수립하고 첫해에 1억 2500만 캐나다 달러(약 1275억 원)를 힌턴 교수가 이끄는 벡터연구소를 비롯해 몬트리올 소재 밀라연구소, 에드먼튼앨버타연구소(AMii) 등에 집중 투자했다. 캐나다 정부는 올해 투자 규모를 4억 4300만 캐나다 달러로 늘렸다.

AI 인재 육성과 훌륭한 인재 유치를 내세우는 한국 정부를 향해서도 기초연구 투자를 우선순위에 두라는 조언을 했다.

그는 “한국에서도 미스터 초(조경현 뉴욕대 교수) 같은 뛰어난 AI 연구자가 나오고 있는데 이러한 인재들을 유치하려면 기초연구에 대한 기업의 투자가 늘어나야 한다”고 강조했다. 그가 언급한 조 교수는 기계 번역에서 한 획을 그은 대표적인 AI 연구자다.

힌턴 교수는 “정치권이나 정책 담당자 입장에서는 구체적인 프로젝트에 투자하고 있다고 말하는 게 훨씬 쉽다”면서 기초연구의 중요성을 간과하는 유혹에 빠지지 말 것을 당부했다. 그는 특히 1982년 일본 정부가 1000억 엔(약 9700억 원) 규모로 추진한 제5세대 컴퓨터 프로젝트를 예로 들며 “목표 중심형 프로젝트는 언뜻 좋아보일 수 있지만 아무런 성과를 내지 못한다. 이런 식의 투자는 피해야 한다”고 지적했다.

거장의 파괴적 혁신…딥러닝으로는 충분치 않다

딥러닝의 새 지평을 연 AI 대부의 여전한 관심사는 ‘뇌가 어떻게 작동하는가’이다.

힌턴 교수는 “지구상에서 가장 큰 인공신경망(Artificial Neural Network)이 조 단위의 학습 데이터를 가지고 학습을 한다”며 “수명 70세인 경우 사람이 겨우 20억 초 정도를 산다는 것을 고려하면 뇌는 인공신경망에 비해 훨씬 적은 데이터로 학습을 하는 셈”이라며 인공신경망이 사람의 뇌처럼 학습하는 수준에 이르기까지는 갈 길이 멀다고 말했다.

최근 자신의 딥러닝 모델에 가장 큰 성취를 안겨준 백프로퍼게이션(Back Propagation) 알고리즘의 대안을 찾는 연구를 시작했다. 힌턴 교수는 “백프로퍼게이션은 데이터가 많은 커다란 시스템에서 작동하지만 대안적 알고리즘은 작은 시스템에서도 작동할 수 있을 것”이라고 기대감을 내비쳤다.

구글의 초거대 인공지능(AI) ‘PaLM’은 힌턴 교수가 흥미롭게 지켜보고 있는 딥러닝 연구의 상용화 사례다. 약 5000억 개의 매개변수(파라미터)를 가진 이 초거대 AI는 전 세계 농담을 분석해 이해하고 그 의미를 알려준다. 힌튼 교수는 “PaLM 시스템이 가동되려면 적어도 추가로 5년은 걸릴 줄 알았다”며 커다란 성취임을 강조했다. 또 딥마인드가 개발한 단백질 구조 예측이 가능한 알파폴드(AlphaFold)는 지난 50년간 생물학의 가장 큰 문제를 해결한 수준이라고 평했다. (그가 커다란 성취라고 치켜 올렸던 알파폴드를 개발한 데미스 허사비스 구글 딥마인드 최고경영자(CEO) 역시 힌턴의 선정 다음 날 노벨화학상 수상자로 선정됐다. 노벨위원회 측은 AI를 통해 단백질 구조를 예측하고, 우리만의 단백질을 설계할 수 있도록 한 것은 인류에게 큰 기여”라고 선정 이유를 밝혔다.)

앞으로 그가 기대하는 AI의 활용 영역은 의료 분야부터 기후변화 위기 해결까지 다양하다. 힌턴 교수는 “의료 이미지 분석 등 헬스케어에서의 활용은 물론 약 설계 등 나노 기술 단위에서 더욱 활용도가 높아질 것”이라고 내다봤다. 불법 포획을 감지해 해양 생물을 보호하거나 같은 농장에 있는 작물에도 맞춤형으로 최적의 비료나 농약을 뿌려 농작물을 보호하는 일이 가능해진다는 것이다.

일각에서 제기되는 AI 윤리에 대한 생각도 밝혔다. 그는 “AI 시스템에 편향성이 생기면 이를 판별하기는 쉽다”며 “사람 안의 편향성이나 편견을 바로잡는 것보다 AI 시스템의 편향성을 고치는 게 용이한 만큼 꾸준히 개선해 나갈 수 있을 것”이라고 말했다. 이후 그는 지난 해 5월 구글을 퇴사하면서 보다 독립적인 목소리를 내고 있다.