2024년 노벨 물리학상 수상자인 제프리 힌턴 캐나다 토론토대 명예교수가 도널드 트럼프 미국 대통령 당선인의 취임으로 인공지능(AI)의 안전한 개발이 어려워질 수 있다고 경고했다.

3일 요미우리신문에 따르면 힌턴 교수는 최근 요미우리와의 인터뷰에서 “AI의 진화로 허위정보와 음모론이 확산하며 민주주의를 위협하고 있다”며 개발 기업들의 안전성 확보를 위한 투자 확대를 강조했다. 그러면서 이 같은 노력이 트럼프의 취임으로 후퇴할 수 있다고 우려했다.

트럼프는 조 바이든 정권이 도입한 AI 안전성에 관한 대통령령을 폐지하겠다는 방침이다. 현 대통령령은 개발 기업에 정부와의 중요 정보 공유 등을 의무화하고 있는데, 트럼프가 AI 기업으로 하여금 이런 의무에서 벗어나 자유롭게 규칙을 제정하도록 허용할 가능성이 크다는 게 힌턴 교수의 설명이다. 그는 미국 오픈 AI를 비롯해 구글과 마이크로소프트 그리고 트럼프 정부 ‘핵심 인사’로 부상한 일론 머스크 테슬라 최고경영자(CEO) 등이 AI 개발에 열을 올리는 상황을 두고도 “영리 기업이 경쟁하면 안전성이 뒷전이 된다”며 “이는 군비경쟁과 다를 게 없다”고 꼬집었다. 이어 각 AI 개발 기업이 보유한 컴퓨터 처리 능력의 3분의 1을 안전성 연구에 투자하도록 의무화하는 법 정비가 필요하다고 주장했다. 힌턴 교수에 따르면 현재는 안전성 연구에 컴퓨터 처리 능력의 1% 정도밖에 사용되지 않고 있어 각 기업이 현재의 30배 수준으로 규모를 할당할 필요가 있다.

인간 이상의 지능을 가진 AI가 20년 안에 탄생할 확률을 50% 이상으로 보기도 했다. 그는 이런 존재가 빠르면 5년 이내에 탄생할 수도 있다는 견해를 밝히며 “AI가 인류를 지배할 가능성에 대해 진지하게 생각할 필요가 있다”고 강조했다.

AI의 진화가 의료 오진 감소, 신약 개발 진전 등의 순기능도 가져오지만, 이 기술이 창출하는 일자리보다 빼앗는 일자리가 더 많을 것이라는 전망도 내놓았다. 힌턴 교수는 “노동자들이 일자리를 잃고, 빈부 격차가 확대될 것”이라고 전망했다.

한편, 중국의 AI 개발에 대해서는 “미국보다 더 많은 자금을 투입하고 있다”며 “10년 이내에 미국을 추월할 가능성이 높다”고 봤다.

힌턴 교수는 생성 AI의 기반 기술인 ‘기계학습’ 연구로 유명한 ‘AI 계의 대부’다. 지난해 5월, AI의 위험성을 알리기 위해 약 10년간 근무했던 구글에서 퇴사하기도 했다.