SK텔레콤이 글로벌 생성형 인공지능(AI) 기업 앤트로픽, 오픈AI와 손잡고 연내 이동통신사 전용 대형언어모델(LLM), 이른바 ‘텔코 LLM’을 출시한다. 텔코 LLM은 앤트로픽의 범용 LLM ‘클로드’에 통신 데이터를 입힌 클로드 버전, 오픈AI의 GPT를 학습시킨 GPT 버전, 자체 개발한 에이닷엑스(A.X) 등 세 버전으로 구성된다. 고객사인 통신사들이 AI콘택트센터(AICC), AI에이전트(비서) 등 통신 서비스나 기능을 개발할 때 최적의 버전을 가져다쓸 수 있게 하는 ‘멀티(다중) LLM’ 전략이다.

19일 통신업계에 따르면 SK텔레콤은 앤트로픽, 오픈AI와 손잡고 각각의 텔코 LLM 버전을 파인튜닝(미세조정) 중이다. 챗GPT 같은 범용 LLM 기반 챗봇은 통신사의 특정 요금제명 같은 전문지식을 제대로 학습하지 않아 요금제 변경이나 추천 같은 고객 요구에 제대로 대응할 수 없다. 통신 데이터 같은 전문지식을 추가로 학습해 이 문제를 해결하는 과정이 파인튜닝이다. 파인튜닝을 거친 클로드 및 GPT 버전과 함께 SK텔레콤이 AI비서 서비스 ‘에이닷(A.)’에 활용한 모델 에이닷엑스까지 총 세 가지 버전의 텔코 LLM이 준비 중이다.

최근 SK텔레콤가 개발 중인 텔코 LLM들을 대상으로 내부적으로 수행한 초기 성능 측정에서 클로드 버전은 대화 속 감정을 파악하고 특정 요금제명 같은 개체명(NER)을 인식하는 능력이 다른 LLM보다 특히 뛰어난 것으로 나타났다. GPT 버전은 대화의 주제를 파악하고 내용을 요약하며 상대방의 의도를 이해하는 능력에서 뛰어났다. 고객의 기분을 헤아려 잘 응대하는 상담봇을 만드는 데는 클로드 버전을, 상담이 끝난 후 고객의 요구대로 후속 대응하고 이력을 관리하는 데는 GPT 버전을 쓰는 게 유리할 것으로 보인다. 에이닷엑스는 한국어 기반의 국내 서비스 개발에 널리 쓰일 것으로 보인다. SK텔레콤은 이 같은 성능 측정이 아직 초기 결과인 만큼 최종 버전에서는 전반적으로 더 고도화하고 상대적인 특장점도 달라질 수 있다고 강조했다.

SK텔레콤은 이 같은 협력을 위해 지난해 앤트로픽에 1억 달러(1300억 원)를 투자했다. 올거나이즈, 코난테크놀로지 등 국내 기업들과도 협업 중이다. 최근에는 클로드와 GPT로 개발한 아마존 상품후기 요약 AI 서비스 ‘지스티’를 시범 출시하며 텔코 LLM의 상용화 가능성을 미리 검증하기도 했다.

텔코 LLM이 출시되면 첫 활용처는 자사를 포함해 도이치텔레콤, 이앤, 싱텔, 소프트뱅크 등 전 세계 통신사 5곳이 될 예정이다. 5개사는 최근 연내 합작법인 설립을 공식화하고 총 13억 명에 달하는 가입자 데이터와 수요를 바탕으로 한국어뿐 아니라 영어·독일어·아랍어·일본어를 지원하는 텔코 LLM과 맞춤 서비스를 개발하기로 했다. 구글, 마이크로소프트(MS) 등 빅테크가 앞서가는 LLM 분야지만 여전히 통신사들이 유리한 고지를 찾아내 힘을 합쳐 선점하겠다는 것이다.