국내 연구진이 대규모언어모델(LLM)을 이용해 기업이 최적의 의사 결정을 도출할 수 있도록 돕는 기술 개발에 성공했다. 기업 내부 전문적인 데이터 분석팀과 고가의 상용 데이터베이스 솔루션을 대체할 수 있을 것으로 기대된다.
한국과학기술원(KAIST)은 김민수(사진) 전산학부 교수 연구팀이 필요한 정보를 데이터베이스(DB)로부터 찾고 비즈니스 규칙에 부합하는 최적의 의사 결정을 지원하는 ‘계획 검색 증강 생성’ 기술을 개발했다고 19일 밝혔다. 연구 결과는 자연어처리 분야 최고 학회인 ‘북미전산언어학회(NAACL)’에 17일 발표됐다.
그동안 LLM은 방대한 데이터를 학습한 탓에 학습에 사용된 바 없는 데이터를 바탕으로 답변하거나 오래전 데이터를 바탕으로 답변하는 등의 한계를 지녔다. 이러한 문제를 해결하기 위해 나온 것이 검색 증강 생성(RAG) 기술이다. RAG는 학습된 내용만으로 답변하는 것 대신 DB를 검색해 답변을 생성하는 기술이다. 계획 RAG는 이러한 기존 RAG를 한 단계 더 발전시킨 형태다. 계획 RAG는 의사 결정 문제, DB, 비즈니스 규칙을 바탕으로 어떤 데이터 분석이 필요한지에 대한 거시적 차원의 계획을 먼저 생성한 후 그 계획에 따라 반복적인 RAG를 이용해 미시적 차원의 분석을 수행한다.
기업의 의사 결정권자가 어떤 데이터 분석이 필요한지 계획을 세우면 해당 계획에 따라 데이터분석팀이 DB 솔루션들을 이용해 분석하는 형태와 유사하다. 또 계획 RAG 기술은 계획에 따른 데이터 분석 결과로 적절한 답변을 도출하지 못하면 다시 계획을 수립하고 데이터 분석을 수행하는 과정을 반복한다. 기존 최신 기술(반복 RAG)과 비교해 고난도 기업 의사 결정 문제 정답률을 최대 32.5% 개선했다는 것이 연구팀의 설명이다.
김 교수는 “지금까지 LLM 기반으로 의사 결정 문제를 푼 연구가 없었기 때문에 기업 의사 결정 성능을 평가할 수 있는 의사 결정 질의응답 벤치마크를 새롭게 만들었다”면서 “이를 통해 기업들이 복잡한 비즈니스 상황에서 최적의 의사 결정을 사람이 아닌 LLM을 이용해 내리는 데 적용되기를 기대한다”고 말했다.
