‘딥러닝의 아버지’로 잘 알려진 인공지능(AI) 석학 요슈아 벤지오 몬트리올대 교수가 ‘나쁜 손’에 들어간 AI가 민주주의의 근간을 뒤흔들 수 있다는 우려를 내놓았다. 설득 능력에서 인간을 앞서기 시작한 AI가 소셜네트워크서비스(SNS)에서 민주주의 국가의 여론을 조작하면 돌이킬 수 없는 결과로 이어질 수 있다는 이유에서다.

벤지오 교수는 최근 서울경제신문과 진행한 화상 인터뷰에서 “GPT-4가 인간의 생각을 움직이는 데 있어 인간보다 뛰어나다는 연구 결과가 나와 있다”며 “악의적인 국가 행위자(state actor)가 심리 조작에 파인튜닝(최적화)한 AI를 민주주의 국가에 풀어놓는다면 특정 정치 문제에 대한 대중의 생각을 바꿀 수도 있다”고 지적했다.

중국·러시아·북한 등 권위주의 국가는 물론 민주주의 국가 내 특정 정치 세력의 나쁜 손에 들어간 AI가 민주주의를 뿌리째 흔들 수 있다는 시각이다. 미국은 이미 2016년 대선에서 SNS를 통해 가짜뉴스를 살포한 ‘러시아 게이트’로 홍역을 치른 바 있다. 벤지오 교수는 과거 ‘정보 요원’이 가짜뉴스를 공유하던 차원을 넘어 인간보다 훨씬 선동·설득에 뛰어난 AI가 사람처럼 활동하며 집단 여론을 조작할 수 있다고 우려했다.

벤지오 교수는 AI의 악용을 막기 위해 허용되지 않은 연구를 차단하는 ‘킬스위치’를 반도체 설계단에 적용해야 한다는 의견도 냈다. 또 메타의 ‘라마’와 같은 오픈소스(개방형) AI는 설계도를 악의적으로 수정할 수 있는 만큼 “가장 뛰어난 AI는 오픈소스화하면 안 된다”고 주장했다.