사회 사회이슈

한국인공지능윤리협회, 나쁜 AI '딥페이크' 추방 캠페인 전개

- 2020년 총선, 미 대선 등 '딥페이크' 이슈에 사전 예방 차원

- 온라인 릴레이 서명 캠페인 및 교육 전파 운동 동시 진행


인간이 손수 해야 했던 과정을 대신해 시간과 비용을 아끼게 해주는 인공지능(AI)의 장점이 '선한 AI'라면, AI로 남의 얼굴을 합성하는 기술인 '딥페이크'는 최근 '나쁜 AI'의 대표 사례로 대두되고 있다. 인공지능의 이러한 양면성으로 기술 이상의 윤리적 고찰이 필요하다는 기치 아래 세계 주요국에서 AI 윤리 기준 제정이 줄을 잇는 가운데 우리나라도 '한국인공지능윤리협회'가 국내 최초로 '딥페이크' 추방 운동 성명서를 발표하고 온라인서명 캠페인을 진행 중이라고 밝혔다.




<AI가 똑같이 만든 오바마 전 미국대통령이 트럼프 대통령을 비난하는 영상 속 화면. 딥페이크 기술이 활용됐다. (사진=유튜브)>




지난해 3월 '인공지능 윤리' 분야 학계 및 산업계, 언론, 법률계 주요 전문가들이 모여 창립한 협회는 10월 '인공지능 윤리 헌장'을 선포한데 이어 이번 캠페인 실시로 국내 대표 관련 단체로서 AI 윤리의 중요성에 대한 대중적 인식을 확산하겠다는 계획이다.

지난해 네덜란드의 보안 연구 회사 '딥트레이스'는 딥페이크 음란동영상의 피해자 중 25%가 한국 여자 연예인이라고 보고서를 통해 밝혔으며, 영국에서는 가짜 음성 딥페이크에 속아 한 기업인이 3억여원을 편취 당한 사건도 발생했다. 특히 협회 측은 국내 총선과 미국 대선이 치러지는 올해를 악의적 딥페이크가 급증할 수 있는 시기로 예상했다.


협회 전창배 이사장(아이오냅 대표)은 "최근 전세계적으로 딥페이크가 심각한 AI이슈로 부각되고 있다. 악의적 딥페이크를 방지하고, 인공지능을 선하고 바른 목적으로 사용해야 한다는 'Good AI’의 전파를 위해 금번 캠페인을 기획했다"며 "올바른 AI의 활용은 결국 성숙한 시민의식 속에서 가능하기에 본 캠페인의 서명 운동에 많은 동참을 바란다"고 전했다.

관련기사



향후 협회는 딥페이크 관련 사례를 지속적으로 연구해 교육에 활용할 수 있도록 하는 한편, 딥페이크를 구별하고 방지하는 원천기술의 개발에도 적극 나설 계획이라고 밝혔다.

이와 같은 내용을 담아 발표한 협회의 '딥페이크 추방 성명서’는 한국인공지능윤리협회 홈페이지에서 전문을 살펴볼 수 있으며, 성명서 하단에 댓글 형태로 관심 있는 누구나 서명 캠페인에 참여할 수 있다.

/김동호 dongho@sedaily.com

김동호 기자
<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지>




더보기
더보기





top버튼
팝업창 닫기
글자크기 설정
팝업창 닫기
공유하기