주요 인공지능(AI) 기업들이 포진한 미국 캘리포니아에서 인공지능(AI) 규제 법안이 주 의회를 통과됐다. 마이크로소프트, 메타 등 빅테크(거대기술기업)들은 혁신을 방해할 수 있다며 거세게 반발하고 있다.

28일(현지시간) 블룸버그통신은 캘리포니아주 AI 규제법 ‘SB1047’ 수정안이 찬성 41표, 반대 9표로 주 의회를 통과했다고 보도했다. 해당 법안을 발의한 스콧 위너 민주당 상원의원은 성명에서 “이번 표결로 의회는 흥미로운 신기술이 발전함에 따라 공공의 이익을 보호하기 위해 선제적으로 노력할 수 있는 역사적인 조처를 했다”고 평가했다. 해당 법안은 개빈 뉴섬 캘리포니아 주지사에게 전달하기에 앞서 주 상원으로 다시 보내져 추가 검토를 거친다.

‘AI 규제법’이라 불리는 이번 수정안은 AI 모델을 개발하는 기업이 강력한 AI 기술을 공개하기 전에 반드시 안전성을 테스트하도록 의무화하고 있다. 대규모 AI 시스템으로 인해 사망에 이르거나 5억 달러 이상 피해를 일으킬 수 있는 상황을 미연에 방지하는 것이 목적이다.

법안은 기업들이 AI가 인간에게 위해를 끼치면 가동을 즉각 중단할 수 있는 장치를 만들고 사전에 제3자 테스트를 받도록 요구하고 있다. 안전 문제를 공유하고자 하는 AI 회사 직원을 위한 내부 고발자 보호 장치도 마련한다.

캘리포니아에서 사업을 하는 모든 회사는 본사 소재지에 상관없이 해당 법안이 적용된다. 앞서 오픈AI 등 빅테크들은 해당 법안에 대해 강한 우려와 반대 의사를 밝혀왔다. 반면 테슬라 최고경영자(CEO)이자 AI 스타트업 xAI를 설립한 일론 머스크와 오픈AI의 라이벌인 앤스로픽은 해당 법안을 지지하고 있다.