정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)과 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)가 ‘2024 인공지능 윤리·신뢰성 포럼 공개세미나’ (이하 ‘공개세미나’)를 개최했다.
지난 11월 28일(목) 14시 서울 중구 포스트타워에서 진행된 공개세미나는 인공지능의 윤리적 활용과 신뢰성 확보를 위한 그간의 노력을 공유하고 논의하기 위해 마련된 자리다.
각계 분야 전문가와 관계자가 참석한 가운데 KISDI 문정욱 디지털사회전략연구실장과 이현경 부연구위원은 2024년 한 해 동안 추진해 온 △AI 영상합성서비스 윤리영향평가 △실무자용 AI 윤리교육 콘텐츠 개발 사업의 추진 경과와 주요 성과를 공유했다.
제1세션에서 문정욱 디지털사회전략연구실장은 ‘2024년 AI 윤리영향평가: AI 영상합성서비스’를 주제로 발표를 진행하고, AI 영상합성서비스에 대한 사회적 인식과 정부·기업·개인의 역할과 노력에 대해 논의했다.
이번 자리를 통해 공개된 국민포럼 FGI와 전문가 평가단의 주요 평가 결과에 따르면 다수의 국민과 전문가들은 AI 영상합성서비스의 긍정적 영향으로 △표현의 자유 증대 △창작 활동 활성화 △ 사회적 약자 보호를 꼽은 것으로 나타났다. 반면 부정적 영향으로는 △프라이버시 침해 △허위·가짜정보 확산 △사회적 혼란 유발 문제를 지적했다.
KISDI와 과기정통부는 2023년 ‘AI 윤리영향평가’ 프레임워크를 개발하고, 이에 기반하여 올해 AI 영상합성서비스를 시범 평가대상으로 선정해 평가를 진행하고 있다. 이번 세미나에서 발표된 내용은 중간 평가 결과로, 다가오는 12월 20일 종합결과(안)에 대한 공개토론회와 의견수렴을 거쳐 내년 상반기에 AI 영상합성서비스 윤리영향평가 보고서를 발간할 예정이다.
문정욱 실장은 “AI 영상합성서비스의 긍정적 영향을 촉진하고 부정적 영향을 완화하기 위한 정책과 제도의 마련이 시급한 상황에서 정부, 기업, 학계, 시민사회 모두 신뢰 기반으로 협력할 필요가 있다”고 강조했다.
제2세션에서는 이현경 부연구위원이 ‘AI의 윤리적 개발·활용 확산을 위한 실무자용 AI 윤리교육 콘텐츠 개발’을 주제로 발표를 진행하여, 본 교육 콘텐츠가 개발 실무자들이 윤리 의식을 함양하고 법적 위험을 최소화할 수 있도록 구성되었음을 설명했다.
세부적으로는 △교육 콘텐츠 개발 과정 △실무자 대상 전문가 조사 결과 △AI 생애주기에 따른 윤리교육 내용을 소개하며 글로벌 규범이 AI 기술에 대한 규제를 강화하는 방향으로 진행되는 상황 속에서 국내 AI 산업에 종사하는 기획자와 개발자 등 실무자를 위한 AI 윤리교육 콘텐츠의 필요성을 강조했다.
이현경 부연구위원은 “실무자를 대상으로 한 인공지능 윤리 교육 개발도 중요하지만 현장에서 실효성을 담보할 수 있는 인센티브 또는 문화를 만들어 나가는 것이 중요하다”고 당부하였다.
AI 윤리교육 콘텐츠는 그동안 접근성 좋은 콘텐츠가 부족했던 점을 감안하여 개발된 과정이다. 실무자들이 AI 제품 및 서비스를 윤리적으로 개발하고자 할 때 직면하는 딜레마를 △기술적 △외부 환경 △업계 문화 △이해관계자와의 상호작용에서 발생하는 딜레마 △의도하지 않은 윤리적 딜레마로 구분하여 설명하고, 이를 해결하기 위한 도구와 문화의 중요성을 강조하고 있다.
본 콘텐츠는 AI 윤리 관련 가이드라인, 원칙, 국제적 동향을 파악하기 위한 자료를 제공하며, 깃북(‘Gitbook’) 플랫폼을 통해 내년 2월에 공개될 예정이다.
이날 진행된 공개세미나는 유튜브를 통해 생중계되었으며, 과학기술정보통신부 유튜브 채널과 '인공지능 윤리 소통채널'에서 다시 볼 수 있다.
한편, 정보통신정책연구원은 2024년 12월 19일 목요일까지 ‘인공지능 윤리 소통채널’에서 AI 영상합성서비스 윤리영향평가 중간결과에 대한 국민 의견 수렴을 진행할 예정이다.
