김장겸 의원실이 공개한 딥페이크 기술로 생성한 손흥민 선수 모습. 이미지 제공=김장겸 의원실
김장겸 국민의힘 의원이 25일 국회에서 열린 과학기술정보방송통신위원회 5차 전체회의에서 의사진행 발언을 하고 있다. 뉴스1국회 과학기술정보방송통신위원회(과방위)에서 딥페이크 기술을 악용한 디지털 성범죄의 위험성을 경고하는 영상이 28일 공개됐다.
이날 오전 국회 과방위 전체회의에 참석한 김장겸 국민의힘 의원은 축구선수 손흥민을 활용한 딥페이크 영상을 공개했다. 해당 영상에서 손흥민으로 보이는 인물은 "저는 축구선수이자 경험 많은 투자자입니다. 우량주 3개를 무료로 공유해 드립니다"라며 불법 투자를 유도하는 내용을 발언했다. 영상은 기존 손흥민 선수의 목소리와 입 모양을 그대로 재현해 실제와 구분하기 어려울 정도였다.
김 의원은 김태규 방송통신위원회 직무대행에게 "이 딥페이크 영상이 유튜브와 SNS에서 노출되고 있다"며 대책을 질의했다. 이에 김 직무대행은 "딥페이크 영상물 피해자 신상정보 긴급 심의, AI 생성물 표시제 도입, AI 서비스 이용자 보호 법규 마련, AI 피해 신고 창구 활용 등을 검토 중"이라고 답변했다.
또 "텔레그램 관련 그룹채팅방이나 채널 서비스 등 공개 영역에서의 불법 촬영물 삭제 및 유통 방지 의무 부여, 제재 강화 방안에 대해 법률 검토를 진행할 예정"이라고 덧붙였다.
딥페이크 기술을 이용한 디지털 성범죄가 급증하면서 사회적 우려가 커지고 있다. 전문가들은 "딥페이크 기술의 발전 속도가 매우 빠른 만큼, 관련 법규와 대응책 마련이 시급하다"고 지적했다. 정부는 이에 대응해 AI 윤리 가이드라인 수립, 딥페이크 탐지 기술 개발 지원 등을 추진하고 있지만 아직 실효성 있는 대책 마련에는 어려움을 겪고 있는 것으로 알려졌다.
