"구글·MS·삼성 등 16개 기업 AI 안전한 개발 약속"

英 수낵 총리 “세계 각국 선두기업 첫 동시 합의”

리시 수낙 영국 총리. AP연합뉴스

구글, 아마존, 마이크로소프트(MS), 삼성전자 등 16개 주요 기술 기업이 인공지능(AI) 안전한 개발을 약속했다.


영국 과학혁신기술부는 21일(현지시간) 성명을 통해 “영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다”고 밝혔다. 이어 “기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다”며 “합의에는 책임 있는 거버넌스 구조, 프런티어 AI 안전과 관련한 투명성을 보장하는 약속이 담겼다”고 했다.


이번 발표는 한국과 영국이 이날부터 이틀간 ‘AI 서울 정상회의’를 개최하는 가운데 나왔다. 지난해 11월 영국 블레츨리 파크에서 처음 열린 ‘AI 안전성 정상회의’에 이어 열리는 행사다.


이날 ‘프런티어 AI 안전 약속’에 이름을 올린 기업은 아마존과 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다. TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다.


영국 정부는 이에 대해 북미와 아시아, 유럽, 중동에 걸쳐 기업들이 AI 개발과 관련한 안전성에 대해 사상 처음으로 약속한 것이라고 강조했다.


리시 수낵 총리는 “전 세계 각국에서 이렇게 많은 AI 선두 기업이 AI 안전성을 위한 단일 약속에 합의한 것은 세계 최초”라며 “혁신적인 기술의 혜택을 열어줄 글로벌 AI 안전 기준의 선례를 세우는 것”이라고 말했다. 또 “영국의 블레츨리 정상회의는 대성공이었고 우리는 한국과 함께 AI 서울 정상회의에서 구체적인 진전을 이뤄내며 성공을 이어가고 있다”고 했다.


참여 기업은 프런티어 AI 모델 및 시스템을 책임감 있게 개발하고 배치하며 향후 프랑스에서 열릴 AI 정상회의까지 심각한 위험에 초점을 맞춘 안전 체계를 발표, 이를 어떻게 달성했는지 공표하기로 했다.


<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지>