챗GPT보다 포털 검색이 빠른데? '투머치 AI' 결말은[김창영의 실리콘밸리Look]

올해 정보기술(IT) 시장에서 최대 화두는 AI 거품(버블) 논란이었다. 투자은행(IB), 벤처캐피털(VC), 개인투자자 등 너 나 할 것 없이 AI에 관심과 투자금을 쏟아부었지만 정작 AI가 천문학적인 투자금만큼의 수익을 올릴 수 있을지, 돈이 되는 사업인지 논란이 증폭됐다. 하반기부터 영화 ‘빅쇼트’의 실제 주인공인 마이클 버리를 비롯해 투자시장 큰 손들이 회의적 시각을 나타낼 때마다 빅테크(대형 기술기업) 주가가 요동쳤던 배경이다.

투자시장 뿐만 아니라 업계도 비슷한 고민에 빠졌다. 2022년 11월 오픈AI가 생성형 AI인 챗GPT를 출시한 이후 구글·아마존·메타 등 빅테크들은 물론이고 엔트로픽 등 스타트업들도 챗봇 핵심인 거대언어모델(LLM) 경쟁에 매달려왔다. 그런데 엄청난 시간과 돈을 쏟아부어 업그레이드된 챗봇을 내놓아도 이용자들이 그만큼 호응하지 않는다는 점이 골칫거리다. 몇달간 밤 새가며 신제품을 개발했는데도 이용자들이 새 기능은 잘 쓰지 않고 기존 기능을 쓰거나 익숙한 환경을 선호하는 모습을 보였기 때문이다.

최근 IT 매체 디인포메이션은 이같은 오픈AI의 상황을 자세히 전했다. 여러 오픈AI 직원들에 따르면 초기에는 AI 새 버전을 내놓을 때마다 성능이 개선되면서 챗봇 수요가 급증했는데, 요즘에는 아무리 분석·계산 능력을 고도화해도 이용자 대부분이 별다른 의미를 느끼지 못하고 있다고 한다. 자사 AI가 올해 국제 수학 올림피아드에서 금메달급 성적을 거두고, 국제 대학생 프로그래밍 대회에서 우승을 차지했다고 홍보했지만 이용자들에게 그 정도로 높은 추론 능력은 필요하지 않다는 것이다. 한마디로 헛수고인 셈이다.

오픈AI가 구글 등 경쟁사 추격을 따돌리기 위해 학습보다 추력에 주력하는 개발 전략을 취하고 있지만 오히려 소비자 요구와 반대로 흘러간다는 평가가 나온다. AI 챗봇 평가 사이트인 LM아레나의 AI 역량 책임자 피터 고스테프는 "오픈AI가 과학·수학 벤치마크, 코딩 대회에 집중하는 것은 일반 사용자 성향과 맞지 않는 것 같다"며 "챗GPT 사용자는 대부분 영화 평점과 같은 아주 간단한 질문을 하고 있다"고 말했다.

이같은 괴리는 포털(검색엔진)을 보유한 구글이 최근 선전하는 배경으로 꼽힌다. 구글은 포털, 이메일, 챗봇 서비스를 모두 갖고 있기 때문에 전세계 검색 시장을 장악한 포털을 기반으로 AI 서비스를 접목하면서 이용자 호응을 이끌어내고 있다는 분석이다. 디인포메이션은 “올해 들어 AI 챗봇이 검색 엔진을 대체할 수 없다는 점이 분명해졌다”며 “때때로 챗봇이 아닌 검색 엔진에서 제공하는 빠르고 간단한 답변이 더 효과적일 수 있다”고 평가했다.



오픈AI 내부 반응도 비슷하다. 챗GPT 사용자들은 일반적으로 간단한 질문에 빠른 답변을 원하기 때문에 추론에 주력하는 전략은 효과적이지 않다는 지적이 나온다. 디인포메이션은 “일반적으로 추론 모델은 질문에 답하기까지 몇 초에서 몇 분까지 걸릴 수 있는데, 이는 구글 검색의 빠른 결과에 익숙한 이용자에게는 영원과 같은 시간처럼 느껴질 수 있다”며 “오픈AI 서비스는 추론이 복잡하고 양이 방대한 정보를 찾는데 적합하다"고 평가했다.



페이스북 모회사인 메타에서도 이러한 논쟁이 한창이다. 뉴욕타임스(NYT)는 마크 저커버그 최고경영자(CEO)가 AI 경쟁에서 뒤처지지 않기 위해 3년간 데이터센터 등 AI 산업에 6000억 달러를 투자하기로 했는데, 데이터센터를 가동해 확보한 컴퓨팅 파워를 챗봇 개발에 쓸지, 소셜미디어 서비스 개선에 쓸지를 놓고 임원들이 충돌했다고 보도했다.

앞서 저커버그 CEO는 인간을 뛰어넘는 초지능 개발을 위해 스타트업 스케일AI에 143억달러를 투자하면서 창업자 알렉산더 왕을 최고AI책임자(CAIO)로 영입했다. 최근 회의에서 앤드류 보스워스 최고기술책임자(CTO)와 크리스 콕스 최고제품책임자(CPO)가 왕 CAIO에게 유튜브 데이터로 AI 모델을 학습해 추천 알고리즘을 개선한 구글처럼 자사 챗봇으로 인스타그램·페이스북 알고리즘 개선에 기여하면 어떻겠느냐고 물었지만 왕 CAIO는 반대했다고 한다. AI 모델을 특정 사업을 위해 쓰면 그만큼 초지능 개발 속도만 늦추고 결국 경쟁에서 도태된다는 이유에서다. NYT는 메타는 인스타그램이나 스마트안경에 AI를 접목하는 방식으로 수익을 창출하는 전략을 갖고 있지만 책임자끼리 철학적 차이에 부딪혔다고 지적했다.

이러한 분위기 속에서 AI 모델에 지나치게 의존하는 사업 구조에서 벗어나는 움직임도 나타난다. 서비스에 도입한 LLM이 오작동하거나 잘못된 답변을 내놓아 오히려 회사 신뢰도를 깎아먹는 부작용도 나타나고 있기 때문이다. 기업용 소프트웨어 기업 세일즈포스의 산즈나 파룰레카르 마케팅 담당 수석 부사장은 디인포메이션 인터뷰에서 "AI 에이전트의 신뢰성을 향상하기 위해 결정론적(deterministic) 자동화 방식을 사용하고 있다"고 밝혔다. 회사 홈페이지에는 에이전트포스가 LLM의 내재된 무작위성을 없애도록 돕고, 중요 업무 흐름이 매번 정확히 동일한 단계를 따르도록 돕는다는 설명이 게재됐다. 디인포메이션은 이와 관련해 마크 베니오프 CEO가 수년간 주요 제품인 에이전트포스를 LLM 힘으로 기업의 비용을 절감해주는 서비스로 홍보하며 AI 도입에 적극적이었으나 최근 전략을 바꿨다고 전했다.