전 세계적 인공지능(AI) 규제에 대응해 국내 기업들의 해외 진출을 지원하고 가짜뉴스(허위정보)나 딥페이크 등 기술 악용을 방지할 국가 첫 AI안전연구소가 공식 출범했다.

과학기술정보통신부는 27일 경기 성남시 판교 글로벌 연구개발(R&D)센터에서 ‘AI안전연구소’ 개소식을 개최했다고 밝혔다. 류광준 과기정통부 과학기술혁신본부장, 염재호 국가AI위원회 부위원장, 김명주 AI안전연구소장 등 정부 인사와 오승필 KT 최고기술책임자(CTO), 오혜연 한국과학기술원(KAIST) AI연구원장, 방승찬 한국전자통신연구원(ETRI)장 등 산학연 관계자 40여명이 참석했다.

AI안전연구소는 AI 기술의 악용을 막고 관련 규제 동향을 연구하는 ETRI 산하 AI 안전 연구 전담조직이다. 가짜뉴스와 딥페이크, 환각, 개인정보 침해 등 생성형 AI의 부작용 사례들이 늘어나면서 주요국이 AI 규제를 강화하는 추세다. AI 서비스는 전 세계 이용자를 대상으로 하는 만큼 규제도 전 세계적으로 통용될 가능성이 높다. 이에 영국 등은 정부 차원에서 AI안전연구소를 두고 자국 AI 기업의 선제적 규제 대응을 지원하고 있다.

김명주 AI연구소장은 “AI 활용으로 발생할 수 있는 제반위험 평가와 이를 예방하고 극소화하기 위한 정책과 기술을 개발‧보급하고 국내외 연대를 강화해 나가겠다”며 “연구소는 규제기관의 성격이 아니라 국내 AI기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 말했다.

AI안전연구소는 이날 삼성·네이버·카카오·SK텔레콤·KT·LG AI연구원·코난테크놀로지·뤼튼테크놀로지스·포티투마루·라이너 등 산학연 24곳과 ‘대한민국 AI 안전 컨소시엄’을 꾸리기 위한 업무협약(MOU)을 체결했다. 정책 연구와 기술 협력 등을 위한 협력방안을 구체화해나가기로 했다.

유상임 과기정통부 장관은 “미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하고 전례없이 기민하고 체계적인 국제 AI안전 협력체계가 구축되고 있다”며 “AI안전연구소를 중심으로 산‧학‧연 연구역량을 결집해 AI안전의 기술‧정책적 역량을 조속히 확보하겠다”고 말했다.