유발 하라리 예루살렘히브리대학교 교수가 15일 국내 매체들과 진행한 화상 간담회에서 신간 ‘넥서스’에 담은 AI에 대한 문제의식을 전하고 있다. /화상 간담회 갈무리“처음에는 인공지능(AI)을 만들고 이용하는 사람과 그렇지 못한 나머지 사람 간의 장벽이 생길 수 있겠죠. 하지만 기술이 성숙해지면 원래 이것을 만든 사람조차 통제하지 못하는 상황이 벌어질 거예요.”
‘사피엔스(2014)’로 세계사에 대해 통렬한 성찰을 남겨 세계적인 반향을 일으킨 유발 하라리 예루살렘히브리대학교 교수가 15일 국내 매체들과 진행한 화상 간담회에서 “인류의 가장 큰 위협은 AI가 아니라 AI를 둘러싼 인간 사회의 분열”이라며 내부적으로 분열된 이 상태를 극복하고 AI가 가진 잠재력을 인류에게 닥친 위협을 줄이는 방향으로 사용해야만 한다고 강조했다. 그는 최근 인류 3부작의 완결판인 신간 ‘넥서스(김영사 펴냄)’를 통해 AI에 대한 맹신이 가져다줄 수 있는 위협에 대해 경고했다.
그가 AI를 위험하다고 보는 데는 AI의 행위자(Agent)로서의 속성이 영향을 미친다. 하라리 교수는 “AI는 스스로 학습하고 변하고 새로운 것을 만들어내고 결정할 수 있는 독립적인 행위자”라며 “어떤 결정을 내릴 것인지 예측하기가 매우 어렵고 제어하기는 더욱 어렵다”고 지적했다.
AI가 편향된 이유는 AI의 의지와 관계 없이 이미 편견이 들어가고 편향된 데이터로 학습이 광범위하게 진행됐기 때문이라는 점을 강조했다. 그는 “현재의 데이터베이스에는 여성을 향한 것이든 인종을 향한 것이든 편향이 광범위하게 물들어 있다”며 “탈편향화가 불가능하다고 보지는 않지만 매우 어려운 과제일 것”이라고 짚었다.
그가 우려하는 것은 생성형AI가 촉발한 AI붐이 19세기의 산업혁명과 비슷한 양상으로 인간 사회의 불평등과 양극화를 가속화할 것이라는 점이다. 하라리 교수는 “산업혁명을 주도했던 나라들이 전 세계를 지배하고 다른 나라들이 자유를 얻는 데 1세기 이상이 걸렸다”며 “지금도 미국, 중국 등 몇몇 국가가 AI의 선두주자로 나서고 있는데 AI로 인한 불평등 문제가 생긴다면 이것이 가장 큰 문제가 될 것”이라고 강조했다.
그는 알고리즘을 운영하는 회사가 자사의 알고리즘으로 일어난 일에 대해 법적 책임을 지도록 하는 게 가장 중요하다고도 했다. AI가 사람과 소통할 때는 반드시 AI라는 점을 밝히도록 해야 한다는 것. 그는 “AI 의사의 진단이든 어떤 상황이든 AI라는 점을 밝혀야 한다”며 “인간인척 대화하고 상호작용하면 안 된다”고 했다. 그렇다고 AI에 대한 위험성을 경계하며 섣불리 규제 일변도로 가는 것은 바람직하지 않다는 게 그의 입장이다. 그는 “규제 전에 AI를 관찰하고 이해하는 게 급선무”라며 “현재로서는 미국, 중국 등 소수의 나라만 AI가 무엇인지 알고 나머지 국가들은 AI가 무엇인지, 어떤 결과를 불러올 지 전혀 모른 채 규제를 추진하고 있다”고 지적했다. 이어 그는 “정부나 국가에서 AI에 대해 비교적 정확한 인식이 갖춰지고 나면 그때 도입해도 늦지 않을 것”이라고 덧붙였다.
방대한 내용 뿐만 아니라 날카로운 통찰을 담은 인류 3부작을 쓸 수 있는 자신만의 저술 패턴에 대해서는 “정보를 입력하는 만큼이나 소화하는 시간을 중요시 한다”고 했다. 넥서스의 경우 책을 완성하기까지 5년이 걸렸다. 매일 단위로는 8시간 쓰고 2시간 정도 명상을 했다. 일년 단위로는 명상을 위한 휴식을 한두달 간 진행했다. 그는 “이 기간은 이메일도 읽지 않고 책도 가져가지 않는다”며 “정보를 먹지 않고 소화하는 시간을 많이 가지기 위해 노력한다”고 전했다.
