“토큰 2100억개 쓸게요”…실리콘밸리 ‘토큰맥싱’ 광풍의 명암

클로드 코드에 월 2억원 쏟는 토큰맥싱 AI 코딩 에이전트에 토큰 사용 간편해져 토큰 기반 요금제 전환에 기업 재무표 ‘빨간불’ 젠슨 황 엔비디아 최고경영자(CEO). AP연합뉴스 최근 뉴욕타임스(NYT)에 따르면 오픈AI의 한 엔지니어는 일주일 동안 회사 내 AI 모델에 2100억 개의 토큰을 쏟아부었다. 내부 토큰 소비 중 최다치인 이 기록은 위키피디아를 33번 채울 수 있는 텍스트량을 뜻한다고 NYT는 부연했다. 이뿐만이 아니다. 앤스로픽의 AI 코딩 시스템인 ‘클로드 코드’를 이용한 한 사용자는 한 달 만에 15만 달러(약 2억 2000만 원)를 지출했다. 이런 폭발적 사용량은 AI 코딩 에이전트가 등장하면서 가능해진 현상이다. 이전까지는 인간이 일일이 명령어를 입력해야 했지만 인간의 감독 없이도 오픈클로나 클로드 코드 같은 AI 에이전트가 알아서 코드를 검토하고 편집하게 되면서 수백억 개에 달하는 토큰을 금세 소비할 수 있게 된 것이다. 기업들이 토큰을 생산성 지표로 활용하자 개인은 필요와 관계없이 토큰 사용법을 궁리하고 있다. 디인포메이션에 따르면 메타가 명명한 사내 토큰 사용 순위표 ‘클로디오노믹스’ 상위권을 차지한 직원에게는 ‘토큰 레전드’나 ‘세션 불멸자’ 같은 칭호도 붙는다. 이에 토큰을 확보하기 위한 ‘쩐의 전쟁’도 이어지고 있다. 프라빈 네팔리 나가 우버 최고기술책임자(CTO)는 “올해가 시작된 지 불과 몇 달 만에 연간 AI 예산을 모두 다 소진했다”면서 “지출 계획을 원점에서 다시 시작하게 됐다”고 털어놓았다. 기업이 폭증하는 토큰 예산을 제대로 관리하지 못하고 있다는 방증이다. 보여주기식 토큰 맥싱 문화가 생산 결과를 왜곡하고 있다는 지적도 나온다. 코드 분석 기업 깃클리어에 따르면 AI를 자주 사용하는 개발자는 AI를 사용하지 않는 개발자보다 코드를 9.4배 더 자주 수정하는 것으로 나타났다. 토큰을 쓰더라도 실제로 활용되지 않는 무의미한 코드가 생성되고 있는 셈이다.