팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인상에서 확산되며 팬들의 공분을 일으키고 있다. 해당 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제가 필요하다는 지적이 나온다.

29일(현지시간) 뉴욕타임스(NYT)와 CNN 등에 따르면 최근 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 ‘엑스(X, 옛 트위터)’ 등에서 확산됐다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)라는 말의 합성어로 AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 뜻한다.

해당 이미지를 올린 소셜미디어 계정들은 현재 정지됐지만 삭제 전까지 4700만회 이상 조회됐다. 해당 이미지의 최초 출처는 불분명하지만 주로 X에서 공유됐으며 일부는 인스타그램이나 레딧 등에서 발견됐다.

X는 관련 성명에서 “확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다.

이에 대해 엑스 측은 아동 성 착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전 센터’를 텍사스주에 신설하는 등 대응에 나서고 있다.

미국 정부에서도 이와 관련해 우려를 표했다. 카린 장-피에르 백악관 대변인은 브리핑에서 해당 이슈에 대해 “매우 우려스럽다”며 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”며 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있으며 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 강조했다.

사티아 나델라 마이크로소프트 최고경영자(CEO)는 또한 “놀랍고 끔찍하다”는 입장을 밝혔다. MS는 세계 최고 AI 업체인 오픈AI 영리법인의 최대주주로 최근 AI혁신을 주도하며 시가총액 3조 달러를 돌파한 사상 두번째 기업에 이름을 올리기도 했다. 이 같은 AI 관련 오용 사례가 늘어날수록 MS와 같은 AI 빅테크의 책임론 또한 거세질 수밖에 없다.

나델라 CEO는 “(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고 행동해야 한다”며 “기술 주위에 안전장치를 설치해 안전한 콘텐츠가 더 많이 생산될 수 있도록 해야 하며 이를 위해 해야 할 일이 많고 이미 상당히 진행되고 있다”고 밝혔다. 이어 “이것은 글로벌, 사회에 관한 것”이라며 “특히 법과 법 집행 기관, 기술 플랫폼이 함께 할 때 훨씬 더 많은 것을 규제할 수 있다”고 강조했다.

이번 테일러 스위프트 딥페이크 이미지와 관련해 이를 규제해야 한다는 목소리가 커지고 있다. 딥페이크를 연구하는 오런 에치오니 워싱턴대 컴퓨터과학 교수는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. 현재 미국의 50개 주 가운데 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행중이지만 연방 정부 차원의 규제는 없는 상황이다.