딥페이크(인공지능을 이용한 인간 이미지 합성) 영상을 활용한 선거 운동이 29일부터 금지된다. 다만 당내 경선이나 투표 참여 권유, 의정 활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.

중앙선거관리위원회는 18일 이 같은 내용의 딥페이크 영상 등 선거운동 위법행위 예방·단속종합대책을 발표했다.

선거운동 활용이 금지되는 것은 딥페이크 영상처럼 인공지능(AI) 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용해도 법 위반이 된다. 다만 포토샵·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다.

AI 기술을 사용해 만든 이미지·영상 등도 총선 선거 운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유, 통상적인 정당 활동에는 활용할 수 있다.

선관위는 지난 11일부터 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 확대 편성·운영하고 있다. 딥페이크 영상 등을 활용한 선거운동으로 의심될 경우 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.

포털, AI 플랫폼 관계사 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고, 삭제 요청에 불응하면 과태료도 부과할 계획이다.