공감은 클로드, 요약은 GPT, 한국어 서비스는 에이닷…SKT '통신 언어모델' 세가지 버전 만든다

SK텔레콤이 이동통신사에 특화한 대형언어모델(LLM)을 서로 다른 세 가지 버전으로 출시한다. SK텔레콤은 앤트로픽의 클로드 버전, 오픈AI의 GPT 버전, 자체 개발한 에이닷엑스(A.X)로 구성되는 ‘텔코 LLM’의 특장점을 각각 살려 적재적소에 활용하는 ‘멀티(다중) LLM’ 전략을 실행할 방침이다. 현재 클로드 버전은 고객 응대에 필요한 감정 파악 능력이, GPT 버전은 대화를 요약해 고객 니즈(요구)를 찾는 의도 파악 능력이 특히 뛰어난 것으로 확인됐다.

18일 통신업계에 따르면 SK텔레콤은 범용 LLM인 클로드와 GPT에 각각 통신 데이터를 학습시키는 파인튜닝(미세조정) 작업을 진행 중이다. 파인튜닝은 범용 모델을 특정 분야에 최적화하도록 관련 데이터를 추가 학습시키는 것으로, SK텔레콤은 이를 통해 클로드 버전과 GPT 버전의 텔코 LLM을 확보하고 자사 인공지능(AI) 비서 ‘에이닷(A.)’에 활용된 모델 에이닷엑스까지 포함해 총 3가지 버전의 텔코 LLM을 출시할 계획이다. 이 같은 계획은 앞서 앤트로픽·오픈AI 등과 손잡고 다양한 LLM을 만들겠다며 밝힌 멀티 LLM 전략을 한층 구체화한 것이다.

SK텔레콤은 버전별 성능을 내부적으로 비교 평가해 그 초기 결과를 최근 산출했다. 통신사 고객과의 대화에서 감정을 파악하는 능력, 주제를 파악하는 능력, 고유명사 같은 개체명(NER)을 인식하는 능력, 상대방의 의도를 파악하는 능력, 내용을 요약하는 능력 등으로 세분화한 평가를 진행했다. 클로드 버전은 감정 파악과 NER 인식 능력, GPT 버전은 주제와 의도 파악·요약 능력에서 최고점을 얻었다. 모든 항목에서 적어도 하나의 텔코 LLM이 범용 LLM보다 뛰어난 것으로도 나타났다. 에이닷엑스의 성능은 확인되지 않았지만 이미 국내에서 상용화한 만큼 한국어 서비스 개발에 특히 유용할 것으로 알려졌다.



SK텔레콤은 전 세계 통신사들에게 텔코 LLM을 제공하고 각 사가 AI콘택트센터(AICC)나 AI비서는 물론 통화내용 요약·통역 같은 편의 서비스나 기능을 만드는 과정에서 세 버전을 적절히 골라 쓰도록 지원할 계획이다. 초기 결과로는 클로드 버전은 감정 파악 능력을 살려 고객을 응대하고 관리하는 상담봇을 구현하는 데 효율적일 수 있다. 특정 요금제명처럼 상담 중 오가는 고유명사도 잘 잡아낼 수 있다. GPT 버전은 대화 속에서 요금제 변경과 같은 고객 니즈를 파악하고 이를 실행할 수 있으며 대화 요약을 통해 상담이력 관리에 필요한 후처리 작업과 고객 트렌드 분석을 효율화하는 것도 가능하다. 다만 아직 텔코 LLM이 개발 중인 만큼 성능이 지속적으로 고도화할 예정이어서 평가결과 역시 달라질 수 있다는 게 회사 입장이다.

SK텔레콤은 텔코 LLM을 연내 출시할 계획이다. 도이치텔레콤, 이앤, 싱텔, 소프트뱅크 등 글로벌 통신사 4곳과 연내 합작법인을 세우고 5개사 총 13억 명에 달하는 가입자 데이터와 수요를 바탕으로 한국어뿐 아니라 영어·독일어·아랍어·일본어를 지원하는 텔코 LLM과 맞춤 서비스를 개발한다. 회사 관계자는 “텔코 LLM은 범용 LLM보다 통신 영역에 대한 이해도가 높고 고객 의도를 잘 파악할 수 있다”며 “텔코 LLM이 개발되면 전 세계 통신사들이 각국의 환경에 맞춰 유연하게 생성형 AI 서비스를 만들 수 있다”고 설명했다.

SK텔레콤은 멀티 LLM 전략을 추진하기 위해 지난해 8월 앤트로픽에 1억 달러(1300억 원)를 투자했다. 같은 해 말 클로드와 GPT로 개발한 아마존 상품후기 요약 AI 서비스 ‘지스티’를 시범 출시하며 텔코 LLM의 기술검증(POC)에도 착수했다. POC는 신기술의 성능과 상용화 가능성을 검증하는 절차다. ★본지 2023년 11월 22일자 14면 참조

텔코 LLM은 지난달 말 스페인에서 열린 ‘모바일월드콩그레스(MWC) 2024’에서 시연됐다. ‘내게 알맞은 로밍 혜택을 알고 싶다’고 질문하면 텔코 LLM 기반의 챗봇이 ‘당신은 5G 가족 결합 상품에 가입돼 가족도 함께 혜택을 누릴 수 있다. 가족과 함께 여행을 할 계획인가’라고 가입자 데이터를 활용한 실용적 답변을 내놓았다.