오픈AI가 미 캘리포니아주에서 도입을 추진 중인 인공지능(AI) 안전 규제 법안 ‘SB1047’에 대해 공식적인 반대 입장을 밝혔다. SB1047은 일정 규모 이상 AI 개발사들이 ‘치명적인 피해’를 방지하도록 강제하는 내용을 담고 있으나 규정이 모호해 AI 발전을 저해할 수 있다는 지적이 나온다.

21일(현지 시간) 블룸버그통신에 따르면 오픈AI는 SB1047을 발의한 스콧 위너 캘리포니아 주 상원의원에게 서한을 보내 “이 법안은 AI 산업 혁신을 저해해 미국 AI 경쟁력과 국가 안보에 광범위하고 심각한 영향을 끼칠 수 있다”며 “AI 관련 규제는 주 정부가 아닌 연방 정부 차원에서 이뤄져야 한다”고 주장했다.

오픈AI는 법안 통과 우려에 샌프란시스코 사무실 확장 논의를 보류 중인 것으로 전해졌다. 극단적으로는 본사를 옮길 수도 있다는 의미다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 서한에서 “AI 혁명은 이제 막 시작됐고 AI 분야의 글로벌 리더라는 캘리포니아의 지위가 주 경제에 활력을 주고 있다”며 “SB1047은 캘리포니아의 세계적인 엔지니어와 기업가들이 더 큰 기회를 찾아 다른 주로 떠나도록 만들 것”이라고 지적했다.

AI 안전 법안으로 불리는 SB1047은 AI로 인한 대량 살상 무기 개발, 5억 달러 이상의 재정적 손실 초래와 같은 ‘심각한 피해’를 방지하기 위한 조치를 강제한다. AI 시스템을 강제로 종료할 수 있어야 하고, AI가 대재앙을 일으키지 않도록 ‘합리적인 주의’를 기울여야 한다. 위너 의원은 이를 “상식적 안전 기준”이라 명명했다.

AI 개발사들과 학계의 입장은 갈리고 있다. 오픈AI와 마이크로소프트(MS) 진영은 기준이 모호하다는 점을 문제삼아 반발하고 있다. 법안이 요구하는 상식적 안전을 점검할 기준이 없고, 규정을 누가 감독할지에 대해서도 확정되지 않았다는 것이다. 앤드류 응 스탠퍼드대 교수와 얀 르쿤 뉴욕대 교수 등도 반대 진영에 서 있다.

반면 ‘딥러닝의 아버지’로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수 등은 법안에 찬성하고 있다. 보다 안전한 AI 개발을 기치로 내세우며 오픈AI와 경쟁하고 있는 앤스로픽 또한 최초 법안에는 반대했으나, 규정 미준수에 대한 형사 책임을 제외하고 소규모 오픈 소스(개방형) 모델 개발자에 대한 보호 조치 등을 포함한 새 법안에는 찬성 입장을 밝혔다.

SB1047은 이번달 중 캘리포니아 주 의회에서 최종 표결에 부쳐진다. 주 의회에서는 통과 가능성이 높다. 이후 공은 게빈 뉴섬 캘리포니아 주지사에게 넘어간다. 민주당 소속인 뉴섬 주지사는 법안에 대한 입장을 밝히지 않아왔으나 민주당 주류 사이에서도 법안에 대한 의견이 갈리고 있어 거부권 행사 가능성도 있다. 캘리포니아 19선 의원이자 전 하원의장인 낸시 팰로시가 대표적인 민주당 내 법안 반대론자다.

최종 도입된다면 캘리포니아에 본사를 두지 않았어도 주 내에서 사업을 벌인다면 법안을 준수해야 해 여파가 커질 전망이다. 또 미국 전역 주의회에 상정돼 있는 400여 개에 달하는 AI 관련 법안이 연쇄 도입되는 단초가 될 수도 있다. 다만 법안이 구체적이지 않은 만큼 실제적인 영향력을 끼치지 못할 것이라는 지적도 나온다.