SKT, 통신특화 AI가 고객상담 맡는다

SK텔레콤(017670)이 통신사 특화 거대언어모델(LLM) 개발을 조만간 마무리하고 고객센터 운영과 네트워크 운용 등 분야에서 인공지능(AI) 기술을 활용해 대대적인 혁신에 나선다.

SK텔레콤은 30일 서울 중구 SKT 타워에서 ‘텔코LLM 설명회’를 열고 텔코LLM을 오는 6월 선보인다고 밝혔다. 출시 이후 사전 테스트를 거쳐 연내에는 실제 고객센터에 적용할 수 있을 것으로 회사 측은 기대하고 있다. 텔코LLM은 국내 출시 이후 글로벌 텔코 AI 얼라이언스(GTAA)를 통해 글로벌 시장에도 선보일 예정이다. GTAA에는 SK텔레콤을 비롯해 도이치텔레콤, 이앤그룹, 싱텔, 소프트뱅크가 참여하고 있다.

텔코LLM은 5세대(5G) 이동통신 요금제, T멤버십, 공시지원금 등 통신 전문 용어와 AI 윤리가치와 같은 통신사의 내부 지침을 학습한 LLM이다. SK텔레콤의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 미세조정(파인튜닝) 과정을 거쳐 완성될 예정이다.

SK텔레콤은 한 개의 LLM을 사용하는 것보다 여러 LLM에 데이터를 학습시켜 개발하는 것이 답변을 추출하는 정확도가 높고 속도도 빠를 것으로 보고, 멀티LLM 전략을 펼치고 있다. 실제로 SK텔레콤은 방대한 양의 데이터를 수집하고, 정형·비정형 데이터를 선별해 이를 에이닷엑스, GPT, 클로드에 학습시키는 방식으로 텔코LLM을 개발 중이다.

에릭 데이비스 SK텔레콤 AI 테크 콜라보레이션 담당(부사장)은 "한 개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라며 "통신 데이터와 도메인 노하우에 맞춰 조정하는 파인튜닝과 모델평가를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK텔레콤의 멀티LLM 전략"이라고 설명했다.



SK텔레콤이 텔코LLM 개발에 나선 것은 기존 범용 LLM으로는 통신 관련 다양한 업무를 처리하기에는 부족한 부분이 있다고 판단해서다. 실제로 범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 텔코LLM은 기존 LLM에 통신 관련 데이터를 추가로 학습해 이 문제를 해결할 수 있다.



SKT는 텔코LLM이 향후 고객센터 업무, 네트워크 인프라 운용, 기업의 경영지원 업무 등에서 유용하게 활용될 것이라고 설명했다. 특히 고객센터 업무의 소요 시간이 크게 단축될 것으로 기대하고 있다. 고객센터 상담사의 고객 문의 내용 정리와 필요 문서 검색·요약 등의 업무를 텔코LLM이 실시간으로 처리해줄 수 있기 때문이다.

텔코LLM이 기존 고객센터에서 사용된 챗봇과 다른 점은 고객이 말하고자 하는 맥락을 해석하고, 의도를 정확히 파악할 수 있다는 점이다. 나아가 텔코LLM의 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 학습하고 있는 것은 물론 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악하는 것도 가능하다.

네트워크 인프라 운용에서는 장애가 발생할 경우 텔코LLM이 빠르게 해결 방안을 찾아주는 방식으로 활용될 수 있다. 이는 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 학습하고 있어 상황에 맞는 답변을 빠르게 제공할 수 있기 때문이다. 사람이 직접 정보를 찾는 것보다 대응 시간을 단축시킬 수 있을 것으로 예상된다.

정민영 SK텔레콤 AI플랫폼 담당은 "고객센터와 인프라뿐 아니라 마케팅, 법무, 인적관리(HR)와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM을 활용한 실제 사용 사례를 늘려갈 계획"이라고 설명했다.

이날 SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축·개발할 수 있는 '인텔리전스 플랫폼'도 공개했다. 이 플랫폼은 일종의 기업용 AI 개발·운용 패키지로, 통신업에 특화한 다양한 LLM을 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트 등에 쉽고 효율적으로 사용할 수 있다.