22대 총선을 91일 앞둔 10일 경기도 수원시 경기도선거관리위원회에서 관계자들이 사이버선거범죄 근절 홍보 퍼포먼스를 하고 있다. 연합뉴스딥페이크(인공지능을 이용한 인간 이미지 합성) 영상을 활용한 선거 운동이 29일부터 금지된다. 다만 당내 경선이나 투표 참여 권유, 의정 활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.
중앙선거관리위원회는 18일 이 같은 내용의 딥페이크 영상 등 선거운동 위법행위 예방·단속종합대책을 발표했다.
선거운동 활용이 금지되는 것은 딥페이크 영상처럼 인공지능(AI) 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용해도 법 위반이 된다. 다만 포토샵·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다.
AI 기술을 사용해 만든 이미지·영상 등도 총선 선거 운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유, 통상적인 정당 활동에는 활용할 수 있다.
선관위는 지난 11일부터 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 확대 편성·운영하고 있다. 딥페이크 영상 등을 활용한 선거운동으로 의심될 경우 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.
포털, AI 플랫폼 관계사 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고, 삭제 요청에 불응하면 과태료도 부과할 계획이다.
