로이터연합뉴스인공지능(AI) 기술의 진화가 속도를 내면서 부작용을 최소화하기 위한 각국의 노력이 이어지고 있다. 예상보다 훨씬 빠르게 개발되고 있는 AI 시스템과 일반인공지능(AGI) 기술이 인류의 존립까지 위협할 수 있다는 우려 속에서 AI 관련 규제 마련을 본격화하는 국가가 늘어나는 양상이다.
21일(현지시간) 열린 유엔 총회에서 회원국들은 AI의 안전한 사용에 관한 국제적인 합의를 조속히 마련돼야 한다는 내용의 결의를 만장일치로 채택했다. 국제 사회가 유엔 총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 결의는 국제법상 구속력은 없다. 하지만 회원국이 결의안에 만장일치로 찬성했다는 점에서 앞으로 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 일이 속도를 낼 것이라는 전망이다.
미국 주도로 제출된 결의안은 AI 개발과 사용이 예상보다 더 빠른 속도로 진행되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 AI 시스템이 어떤 모습이어야 하는지 등에 대한 글로벌 합의를 이루는 것이 시급하다는 점을 강조했다. 또 AI를 부적절하거나 악의적으로 설계·개발·배포·사용해서는 안 된다는 점도 경고했다.
유엔 총회에 앞서 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련했다. 지난 13일 유럽의회 본회의에서 가결된 'AI법' 최종안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제한다. 의료·교육·공공서비스·선거 등은 고위험 등급으로 분류돼 AI 기술 사용시 반드시 사람이 감독하도록 하고 위험관리시스템도 구축하게 했다. 특히 일반인공지능을 개발하는 기업은 EU 저작권법을 반드시 준수해야 하며 AI 학습과정에 사용한 콘텐츠도 명기해야 한다. 법을 위반할 경우 경중에 따라 매출의 1.5%에서 최대 7%에 해당하는 과징금을 부과할 수 있도록 했다.
이밖에도 주요 7개국(G7)은 지난해 10월 AI 시스템 개발 조직이 지켜야 할 국제 지침 및 행동 규범에 합의했다. 미국에서는 조 바이든 대통령이 AI 모델이 국가 안보나 경제 및 건강상 위험을 초래할 경우 개발자가 연방 정부에 이를 통지해야 한다는 내용의 행정명령에 서명도 했다. 또 일본은 생성형 AI 개발자를 염두에 둔 규제 도입을 검토하고 있는 것으로 전해졌다. 산케이신문에 따르면 일본 정부는 그동안 기업의 자율적인 AI 개발을 인정한다는 방침을 유지했으나 AI의 급속한 진전에 따른 허위 정보 유포와 인권 침해 가능성에 대한 우려로 AI 개발자를 대상으로 하는 구속력 있는 규제 마련을 고민하고 있다.
