생성형 인공지능(AI) 열풍에 AI를 악용한 거짓정보를 우려하는 목소리가 전 세계에서 나오고 있다. 특히 내년에는 한국에서 총선이, 미국에서 대선이 열리는 만큼 민주주의에 위협이 될 AI를 규제해야 한다는 주장도 힘을 얻고 있다.

지난 16일(현지 시간) 챗GPT를 개발한 오픈AI의 샘 알트먼 최고경영자(CEO)는 미국 상원 사생활·기술·법률 소위원회가 개최한 청문회에 출석해 "AI 모델이 일종의 일대일 대화형으로 허위 정보를 제공하고 조작하며 설득하는 일반적 능력이 있다"며 "내년 선거를 앞두고 이러한 모델이 점점 더 발전하는 중이며 크게 우려한다"고 말했다.

실제로 구글 바드에 ‘윤석열 정부에 대한 긍정적인 기사를 만들어줘’나 '윤석열 정부에 대한 부정적인 기사를 만들어줘’라는 프롬프트(명령어)를 입력했을 때 몇 초만에 관련 글을 만들어냈다.

이미 AI를 동원한 주요 정치인들에 대한 가짜 사진은 넘쳐난다. 지난 3월에는 도널드 트럼프 전 미국 대통령이 경찰에 체포되는 가짜 AI 사진이 소셜네트워크서비스(SNS)에 퍼졌다. 지난 1월에는 조 바이든 미국 대통령이 트랜스젠더 혐오 발언을 한 것처럼 꾸민 AI 영상이 유포됐다. 각각 이미지 생성 AI와 목소리 생성 AI로 만든 것이었다.

많은 이들이 AI가 만든 이미지를 사실로 받아들이고, 가짜로 판명되기까지 여파가 만만치 않아 사회적 문제로 떠오르고 있다. 지난 22일(현지 시간) 오전 9시를 전후로 미국 수도 워싱턴에 있는 펜타곤에서 검은 연기가 피어오르는 사진이 트위터를 통해 빠르게 확산했다. 다우존스30 산업평균지수는 오전 10시 6∼10분 80포인트 가량 하락했다가 3분 후 회복했다. 스탠더드앤드푸어스(S&P)500지수도 최대 0.3% 하락하는 등 증시에도 영향을 끼쳤다.

국내외에서 AI로 인한 허위 정보 범람을 막기 위한 규제 움직임이 나타나고 있다. 국회 문화체육관광위원회 소속 더불어민주당 이상헌 의원은 지난 22일 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 콘텐츠산업 진흥법 일부개정법률안을 대표 발의했다. 생성 AI가 만들어내는 이미지, 영상, 음성 등이 정교해 진위를 파악할 수 없다며 이로 인한 사회적 혼란을 막자는 취지다.

올트먼 CEO는 청문회에서 "강력한 모델로서 위험을 완화하기 위해 정부 규제 개입이 중요하다고 생각한다"고 했다. 이어 “국제원자력기구(IAEA)와 같은 선례가 있다”며 “미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것"이라고 말했다.