2024년 대만을 시작으로 미국과 한국 등 주요국 대선·총선이 이어지는 가운데 챗GPT 개발사 오픈AI가 인공지능(AI) 악용 방지 대책을 내놨다. 딥페이크 등 AI 기반 가짜뉴스 확산을 막는 노력을 보여 정치적 논란이 끼어들 여지를 사전차단하겠다는 각오다.

15일(현지 시간) 오픈AI는 챗GPT와 이미지 인공지능 달리(Dall-E) 등이 제공하는 최신 선거 정보에 출처를 명확히 표시하겠다고 밝혔다. 오픈AI는 “미 주정부 국무장관 협회(NASS) 등과 협력해 정확한 선거 정보를 제공하려 한다”며 “정보 출처에 대한 투명성은 유권자가 정보를 더 잘 평가하고 무엇을 신뢰할 수 있을지 결정하는 데 도움이 된다"고 설명했다.

오픈AI는 달리가 생성한 이미지에 워터마크를 남기고, AI가 생성한 이미지인지 검증할 수 있는 ‘이미지 찾기 도구’를 출시하겠다고도 했다. 이미지 찾기 도구는 현재 언론과 연구자 사이에서 검증 중이다. 미라 무라티 오픈AI 최고기술책임자(CTO)는 지난해 10월 “내부 테스트에서 이미지 감지 도구가 99%의 정확도를 보였다”고 밝힌 바 있다.

올해 선거는 AI 발달로 실제와 구분하기 어려운 이미지 양산이 쉬워진 데 따라 가짜뉴스 확산에 대한 우려가 크다. 유력 정치인이 실제로 하지 않은 말을 한 것처럼 합성하는 방식으로 여론을 호도하기 쉬워진 환경 탓이다. 과거 정교한 딥페이크 제작을 위해서는 전문적인 기술력이 필요했으나, 이제는 간단한 프롬프트 입력만으로 누구나 가짜 이미지를 생성할 수 있게 됐다.

이에 빅테크는 AI와 정치 간 거리를 두기 위해 노력하고 있다. 구글은 AI 챗봇 '바드'와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한했다. 구글과 어도비도 오픈AI와 같이 이미지에 워터마크를 넣기로 했고, 구글과 메타(옛 페이스북)는 선거 광고에 AI를 활용했을 경우 이를 반드시 적시하게 만들기도 했다.

빅테크의 노력에도 앞으로 선거에서 AI의 개입은 불가피할 전망이다. 모든 기술 분야에 AI가 녹아들고 있는데다, 워터마크 등 ‘흔적’ 또한 손쉽게 제거할 방법이 있는 탓이다. 워싱턴포스트(WP)는 “워터마크는 손쉽게 편집할 수 있고 암호화된 이미지의 흔적도 색상 변경 등으로 왜곡할 수 있다”고 지적했다.