인공지능(AI) 기술을 이용해 지인이나 소셜네트워크서비스(SNS) 이용자의 사진을 음란물과 합성한 딥페이크 영상물이 심각한 사회문제로 떠오른 가운데 정부가 강력 단속에 나서기로 했다. 정치권에서도 딥페이크 성범죄에 대한 처벌 강화를 추진하기로 했다. 이와 함께 생성형 AI 기술을 디지털 범죄에 악용할 수 없도록 ‘AI 기본법’ 제정을 비롯해 제도 정비에 나서야 한다는 목소리가 높아지고 있다.

윤석열 대통령은 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다.

윤 대통령이 AI 기술을 악용한 디지털 성범죄에 대한 강력한 대응을 주문하고 나서자 관계부처들도 부랴부랴 대책 마련에 나섰다. 이날 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련한 방송통신심의위원회는 28일 전체회의를 열어 해당 내용을 확정할 예정이다. 방심위는 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하고 관련 모니터링 요원을 기존보다 2배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 텔레그램과도 즉시 협의할 수 있는 ‘핫라인’을 개설하고 피해 확산 차단에 신속성을 기할 예정이다.

경찰청 국가수사본부는 28일부터 내년 3월 31일까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중 단속’을 실시한다. 서울지방경찰청은 이날 딥페이크 성범죄 확산을 막기 위해 서울 1374개 초중고등학교 학생과 교사·학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다.

정치권에서도 딥페이크 성범죄 근절을 위한 대책 마련에 나섰다. 한동훈 국민의힘 대표는 딥페이크 음란물 제작 및 유포 사건에 대한 대응 방안을 논의하기 위해 29일 긴급 현안 간담회를 주재한다. 이번 간담회는 실무진 당정협의회 차원으로 진행될 예정이다. 더불어민주당은 딥페이크 음란물 범죄에 대한 처벌을 강화하는 방안을 검토하기로 했다. 김용민 민주당 원내정책수석부대표는 이날 국회 원내대책회의에서 “여성가족부가 아무 역할도 못하고 있는 것 아닌가”라며 “딥페이크 성범죄자들을 철저히 수사해 처벌할 수 있도록 미흡한 현행법을 개정할 것”이라고 말했다.

전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하거나 관계부처 간 공동 대처가 시급하다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 21대 국회에서도 이 같은 내용을 담은 AI 기본법이 발의됐지만 임기 종료로 폐기됐다. 22대 국회에서도 유사한 내용의 법안이 발의됐지만 아직까지는 딥페이크 생성물을 제작하는 기술을 가진 기업들이 스스로 AI 생성물임을 밝히는 ‘자율적’ 참여에만 기댈 수밖에 없는 상황이다.

정부 부처의 한 관계자는 “AI 기술 고도화로 지인은 물론 불특정 다수를 대상으로 한 딥페이크 생성물 제작이 쉬워졌다”면서 “딥페이크 AI 생성물에 대한 워터마크 표시를 의무화한 법이 있으면 이 법에 따라 처벌 규정을 만들고 관리·감독을 하기 수월해질 뿐 아니라 사용자들도 경각심을 더 가질 수밖에 없지 않았겠냐”며 아쉬움을 토로했다. 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 생성물에 따른 사회적 파급 효과가 크다는 점을 고려하면 워터마크를 도입하는 등 플랫폼의 책임을 강화하는 최소한의 규제는 필요하다”면서 “AI 규제가 기술적 한계나 관련 산업 추진 동력을 떨어트릴 수 있다는 우려가 있지만 딥페이크 음란물 확산 속도를 고려할 때 사후적 규제보다는 사전적 규제가 도입돼야 한다”고 강조했다.