샘 올트먼 오픈AI 최고경영자(CEO)가 최대투자사인 마이크로소프트(MS) 행사에 참석해 자사의 인공지능(AI) 챗봇 ‘챗GPT’의 안전성을 강조했다. 유럽연합(EU)가 세계에서 처음으로 ‘AI 규제법’을 최종 승인하고, ‘AI 서울 정상회의’에 참석한 각국 정상들과 기업인들이 안전성 확보를 통한 AI 활용을 천명한 상황에서 나온 발언이라 주목을 받는다. 특히 최근 공개한 최신 AI 모델 ‘GPT-4o’가 배우 스칼렛 요한슨의 목소리를 도용했다는 논란이 벌어졌음에도 올트먼이 ‘AI 낙관론’으로 일관한 것에 대해 비판의 목소리가 나온다.

올트먼 CEO는 21일(현지 시간) 미 시애틀에서 열린 MS 연례 개발자 행사 ‘빌드 2024’ 막바지에 깜짝 등장해 “'GPT-3.5'에서 ‘GPT-4’로 발전하며 AI 모델이 더욱 똑똑해질 뿐만 아니라 안전해졌다”며 “안전 도구를 구축하는 데 훨씬 더 많은 노력을 기울였고 결과적으로 더 유용한 AI를 만들 수 있었다”고 말했다. AI가 발전하면서 지능이 늘어날 뿐 아니라 안전성 또한 강화되고 있다는 입장을 밝힌 것이다. 그는 “오픈AI가 시작했을 때 AI는 완벽함과 거리가 멀었고 허용 가능한 수준의 안전성을 확보하기 위해 많은 시간을 보내야 했다”며 “(GPT-4부터는) 다양한 용도로 사용할 수 있을 만큼 충분히 견고하고 안전한 것으로 간주된다”고 강조했다.

올트먼 CEO의 발언은 AI 안전성을 담당하던 부서인 슈퍼얼라이먼트(superalignment·초정렬) 팀 해체 소식이 전해진 직후 나온 것이어서 논란이다. 초정렬팀은 사람보다 더 똑똑한 AI(AGI·일반인공지능)를 제어하기 위해 지난해 7월 만들어졌다. 팀을 이끌던 인물이 지난해 11월 올트먼 축출 사태를 주도한 수츠케버 전 오픈AI 수석과학자다. 그러나 수츠케버는 오픈AI가 GPT-4o를 발표한지 하루만인 14일 퇴사했고, 이에 오픈AI 내에서 안전성 관련 투자가 뒷전으로 밀렸다는 비판이 흘러나오는 상황이었다.

슈츠케버가 퇴사한 직후 요한슨 목소리 도용 논란이 불거지면서 테크 업계에서는 올트먼 CEO가 “안전한 AI 사용을 도외시한다”는 비판이 제기됐다. 오픈AI가 선보인 GPT-4o는 사람과 같이 자연스러운 대화를 나눌 수 있는 멀티모달 기능을 지녔다. GPT-4o가 제공하는 목소리 중 하나는 사람과 AI 비서의 사랑을 다룬 영화 ‘그녀(HER)’에서 AI를 연기한 요한슨의 음성을 연상케 했다. 올트먼 CEO는 GPT-4o 공개 후 자신의 엑스(X·옛 트위터)에 “HER”라는 게시물을 남기며 영화를 의식한 듯한 모습을 보이기도 했다. 그러나 요한슨은 올트먼CEO가 지난해 말 목소리 사용을 위해 접근했으나 거절했다며 법적 대응을 시사했다. 이에 오픈AI는 요한슨의 목소리를 모방하지 않았다며 문제가 된 음성 사용을 중단한 상태다.