최근 딥페이크 문제가 글로벌 현안으로 부각하고 있는 가운데 미국의 캘리포니아 주(州) 의회가 아동의 성 착취 내용을 담은 딥페이크를 원천적으로 제작을 금지하는 법안을 처리했다.

AP통신 등에 따르면 지난달 31일(현지 시간) 캘리포니아 주의회는 인공지능(AI) 기술을 이용한 딥페이크를 규제하는 법안들을 통과시켰다. AI로 미성년자를 성 착취하는 내용의 딥페이크 제작을 금지한다는 것이 새 법안의 핵심이다. 현행법은 딥페이크 성 착취물 제작은 불법으로 보지 않는다. 표현의 자유를 규정한 미국 수정헌법 1조에 따라 실존하는 인물이 아닐 경우에는 처벌이 불가능하다는 현행 법체계 때문이다. 하지만 새 법안은 실존하는 인물이 아니더라도 딥페이크 아동 성 착취물은 처벌이 가능하도록 규정했다.

주의회는 이와 함께 선거 관련 딥페이크에 대한 규제도 강화했다. 선거와 관련한 딥페이크 제작을 금지하고 소셜미디어(SNS) 업체에 선거 전 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과했다. 선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에 대해 소송을 제기해 손해배상을 받을 수 있는 길도 열어놨다.

다만 업계는 표현의 자유에 대한 과다한 규제라는 이유로 법안에 반대하는 분위기로 알려진다. 챗GPT 개발사 오픈AI는 SNS 업체들의 AI 콘텐츠 관리 의무 강화에 찬성하는 것으로 알려졌다.

한편 개리 뉴섬 캘리포니아 주지사는 9월 30일까지 법안에 서명하거나 거부권을 행사할 수 있다. 뉴섬 주지사가 법안에 서명할 경우 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적인 규제를 도입하는 주가 된다.