윤석열 대통령 딥페이크 영상. 온라인 커뮤니티 캡처윤석열 대통령과 관련한 딥페이크(deepfake·인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물) 영상이 온라인상에 확산되자 경찰이 수사에 나섰다. 당국은 이번 딥페이크 영상에 대해 대통령을 이용해 사회에 혼란을 줄 수 있는 첫 사례로 규정했다. 4월 10일 치러질 제22대 국회의원 선거를 불과 50여 일 앞둔 시점에서 딥페이크가 선거에 영향을 미칠 것이라는 우려의 목소리가 나오고 있다.
22일 서울경찰청 사이버수사대는 윤 대통령이 등장하는 딥페이크 영상이 온라인상에 퍼진 것과 관련한 고발장을 접수해 수사에 착수했다고 밝혔다. 경찰은 “같은 URL 주소를 통해 틱톡·인스타그램·페이스북 등 소셜네트워크서비스(SNS) 계정을 사용하는 회원이 영상 등을 게시한 것으로 확인됐다”고 밝혔다.
해당 영상의 제목은 ‘가상으로 꾸며본 윤 대통령 양심 고백 연설’로 46초 분량이다. 영상에는 딥페이크로 만들어진 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다.
방송통신심의위원회는 SNS상에 퍼진 해당 영상의 삭제·차단을 요청하는 내용을 담고 있는 서울경찰청의 공문을 접수했다. 방심위는 23일 긴급통신심의소위원회를 개최하고 해당 내용이 사실이라면 삭제 및 차단 여부를 판단하겠다는 입장이다.
방심위는 안건이 의결되면 틱톡·인스타·페이스북 등 문제의 영상이 게시된 플랫폼 사업자에 삭제 및 차단 조치를 요청할 예정이다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’이라고 판단하고 있는 것으로 알려졌다.
재발 방지책과 관련해 방심위 관계자는 “소위원회에서는 해당 안건에 대한 심의만 이뤄진다”며 “(재발 방지책은) 정책적으로 조치해야 할 부분”이라고 답했다.
윤 대통령의 딥페이크 영상은 2022년 지방선거 때도 등장한 바 있다. 윤 대통령이 당시 박영일 국민의힘 남해군수 후보를 지지하는 영상이 SNS상에 확산돼 논란이 되기도 했다.
딥페이크 영상은 주로 타인의 얼굴을 음란물에 합성하는 등 성범죄에 악용돼왔다. 방심위에 따르면 2021년 1913건이던 성적 허위 영상 정보 처리 건수는 2023년 8월 3046건을 기록해 큰 폭으로 증가했다. 성범죄에 사용되는 딥페이크에 대해 채 단속이 이뤄지기 전에 선거판까지 흔들고 있는 것이다.
이러한 문제가 이어지자 지난해 12월 국회는 본회의에서 선거일 90일 전부터 딥페이크를 활용한 선거운동을 금지한다는 내용의 공직선거법 개정안을 의결했다. 이를 위반할 시 7년 이하의 징역이나 최고 5000만 원의 벌금에 처해진다.
네이버와 카카오 등 포털 사이트들도 대응에 나서고 있다. 네이버는 자사 대화형 인공지능(AI) 서비스 클로바X에 부적절한 콘텐츠 생성을 요청하는 경우 응답하지 않는 기능을 추가했다. 카카오는 AI로 생성된 콘텐츠에 워터마크를 표시하기로 했다.
그러나 이러한 선거 관련 딥페이크 영상 적발 건수는 올해 역대 최대치를 기록할 것으로 전망된다. 기술은 날이 갈수록 정교해지고 있는데 이에 대응하는 인력은 턱없이 부족하기 때문이다.
중앙선거관리위원회에 따르면 지난달 29일부터 이달 16일까지 불과 19일 만에 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물 129건이 적발됐다. 이 또한 선관위 자체 모니터링을 통해 인지한 사례라 적발되지 않은 건수는 더욱 많을 것으로 예상된다. 현재 선관위 전담팀 인력은 모니터링반, AI감별반, 분석·삭제반, 조사·조치반, 검토자문단 등 72명이다.
이상진 고려대 정보보호대학원장은 “딥페이크 기술은 날이 갈수록 정교해지고 있기 때문에 가짜 여부를 구분하는 자동화 시스템을 도입해 1차적으로 선별한 뒤 정밀 작업을 사람이 진행하는 방식으로 모니터링을 해야 한다”고 조언했다.
