미국 캘리포니아주가 인공지능(AI) 기술을 이용한 딥페이크 문제 해결에 나섰다.

지난달 31일(현지시간) AP통신에 따르면 캘리포니아 주의회는 최근 AI 딥페이크를 규제하는 일련의 법안을 처리했다.

개리 뉴섬 주지사에게 송부된 법안은 AI를 이용한 미성년자 성 착취 딥페이크 제작을 전면 금지하고 있다. 현행법상 딥페이크 속 인물이 실존 인물이 아닐 경우 처벌이 불가능했으나 새 법안은 이를 불문하고 처벌할 수 있도록 했다.

뉴섬 주지사가 서명하면 제작자뿐 아니라 배포 및 소지자도 처벌 대상이 된다.

주의회는 또한 11월 대선을 앞두고 선거 관련 딥페이크 규제도 강화했다. 선거 120일 전부터 소셜미디어(SNS) 업체에 딥페이크 선거 콘텐츠 규제 의무를 부과했으며 선거 당국이나 후보가 제작자를 상대로 손해배상 소송을 제기할 수 있도록 했다. 풍자 목적의 딥페이크는 예외다.

이번 법안은 표현의 자유를 규정한 미국 수정헌법 1조와의 충돌 가능성을 고려해 신중하게 마련됐다. 그동안 딥페이크 성 착취물 제작은 미성년자를 대상으로 해도 불법이 아니었으며, 딥페이크 속 인물이 실존 인물이 아닐 경우 기소와 처벌이 불가능했다.

그러나 새 법안은 이러한 허점을 보완해 더욱 강력한 규제를 가능하게 했다.

구글과 엑스 등 업계는 표현의 자유 침해를 우려하며 반대 입장을 보이고 있다. 이들은 과도한 규제가 기술 혁신을 저해할 수 있다고 주장한다. 반면 챗GPT 개발사 오픈AI는 SNS 업체들의 AI 콘텐츠 관리 의무 강화에 찬성하는 것으로 알려졌다.

뉴섬 주지사는 9월 30일까지 법안 서명 여부를 결정해야 한다. 서명이 이뤄지면 캘리포니아는 미국 최초로 AI 딥페이크에 대한 포괄적 규제를 도입하는 주가 된다. 이번 조치는 글로벌 현안으로 부각된 딥페이크 문제에 대한 미국 내 첫 본격 대응으로, 향후 다른 주와 연방 정부의 관련 정책에도 영향을 미칠 것으로 전망된다.