[여명]AI시대 가짜뉴스, 민간 검증 생태계 만들어야

박성호 사회부장 역사속 권모술수, AI 가짜 이미지와 겹쳐 거짓 영상·음성 대량생산돼 일상 파괴 규제론 한계, 표현의 자유 위축 우려도 정부 관리감독·민간 검증 함께 대응 필요 올해 개봉한 영화 ‘왕과 사는 남자’가 1500만 관객을 넘어섰다. 서사의 중심은 어린 단종과 그를 끝까지 지킨 엄흥도였지만 관객의 시선을 강하게 붙잡은 인물은 배우 유지태가 연기한 한명회다. 영화 속 한명회는 거대한 체구와 위압감으로 단종을 몰아붙이며 극의 긴장감을 끌어올리는 ‘빌런’으로 그려진다. 하지만 조선왕조실록 속 한명회는 사건의 전면에 나서기보다 뒤에서 판을 짜고 모략을 설계하는 인물에 가까웠다. 그래서 그동안 영화와 드라마 속 한명회는 대개 왜소한 체구의 모사로 묘사돼왔다. 그가 능했던 방식은 불충분한 의혹을 정치적 위협으로 키우고 그 위협을 역모의 명분으로 바꿔 정적을 제거하는 일이었다. 영화의 배경이 된 계유정난이 그랬고 예종 때 ‘남이의 옥사’ 역시 한명회가 가장 큰 정치적 이익을 챙긴 사건인 만큼 배후에 그가 있었을 것이라는 해석이 나온다. 한명회만이 아니었다. 조선의 권력투쟁은 대개 이런 방식으로 전개됐다. 훈구파가 사림파 조광조를 몰아낸 기묘사화도, 윤원형의 소윤이 윤임의 대윤을 완전히 제거하는 계기가 된 양재역 벽서 사건도 거짓과 과장이 사실의 얼굴을 쓰고 권력의 무기가 된 사례였다. 이처럼 거짓된 정보로 사실을 가리고 이득을 챙기는 일은 오늘날에도 낯설지 않다. 최근 인터넷에서는 미국 항공모함이 이란에 의해 피격된 듯한 사진이 퍼졌다. 실제처럼 보였지만 인공지능(AI)이 만든 이미지였다. 미군이 생포돼 항복하는 장면도 떠돌았다. 전쟁과 재난·선거처럼 사람들의 감정이 격해지는 순간일수록 가짜는 더 빠르게 현실을 파고든다. 이번 전쟁만이 아니다. 2024년 1월 뉴햄프셔 민주당 프라이머리 직전에는 조 바이든 대통령의 목소리를 흉내 낸 AI 음성 로보콜이 유권자들에게 퍼졌고 2023년 5월에는 펜타곤 인근 폭발 장면처럼 보이는 AI 이미지가 확산되며 시장을 흔들었다. 문제는 이런 거짓이 이제 실생활에까지 번지고 있다는 점이다. 최근에는 AI로 가짜 부동산 중개업자와 허위 매물을 만들어 가계약금을 가로채는 사기 수법이 등장했다. 미국에서도 딥페이크 음성·영상으로 매도인이나 중개인을 사칭해 거래 대금을 빼돌리려는 범죄가 경고 대상이 되고 있다. 심리 전문가나 역술인처럼 행세하는 AI 서비스도 빠르게 늘고 있다. 사람들은 너무 그럴듯하다는 이유만으로 이를 의심하지 못한다. 과거의 가짜뉴스가 수공업이었다면 지금의 가짜뉴스는 대량생산·대량유통이 가능해 더 파괴적이다. 예전에는 사람이 손으로 꾸미고 입으로 퍼뜨려야 했지만 오늘날의 거짓은 AI를 통해 사진과 영상·음성의 형태로 순식간에 만들어지고 플랫폼을 타고 퍼진다. 이를 모두 사람이 직접 가려내고 사후 처벌만으로 막겠다는 것은 사실상 불가능하다. 정부도 최근 AI기본법을 내놓고 딥페이크 콘텐츠에 워터마크 표시를 의무화하는 등 대응에 나섰다. 그러나 AI 발전 속도를 고려하면 늦은 감이 있다. 더구나 정부의 감독과 관리가 지나치게 강화될 경우 표현의 자유를 위축시키고 권력이 불편한 보도까지 ‘가짜뉴스’로 낙인찍는 수단으로 변질될 수 있다는 우려도 적지 않다. 이 때문에 민간의 역할이 중요하다. 올 초 미국 플로리다에 있는 포인터인스티튜트라는 연구소를 방문했다. 비영리 연구기관인 이곳에서는 일찌감치 AI가 만드는 거짓의 위험성을 알리고 사실 검증의 기준을 세워왔다. 동시에 언론 종사자와 시민을 대상으로 ‘AI 리터러시(읽고 쓰는 능력)’ 교육도 진행하고 있다. 이미 수년간의 연구를 수행하고 성과를 내놓으면서 이제는 미국 언론계에서의 영향력도 커지고 있다. 반면 국내에서는 개별 언론사와 플랫폼, 자율 규제 기구 차원의 대응만 있을 뿐 이를 아우르는 민간 검증 생태계는 턱없이 약하다. 정부의 제도와 민간의 자발적 검증이 함께 가야 한다. 책임 있는 콘텐츠 생산, 독립적인 검증, 시민의 AI 리터러시가 함께 작동해야 AI가 만든 거짓도 힘을 잃는다. 박성호 사회부장