울산시와 울산과학기술원(UNIST)이 의사결정의 이유를 설명할 수 있는 인공지능(AI) 기술 개발에 나선다. 판단 과정이 투명하게 드러나 신뢰도가 중요한 질병 진단이나 금융거래 등 전문분야에 인공지능을 적용할 수 있을 전망이다.
UNIST는 인공지능 국가전략프로젝트의 세부과제인 ‘차세대 AI 기술(차세대 학습·추론)’ 연구 주관기관으로 선정됐다고 2일 밝혔다. 올해부터 최대 5년간 과학기술정보통신부로부터 150여억원이 투자되는 대형 프로젝트다. 최재식 UNIST 전기전자컴퓨터공학부 교수가 과제 책임자를 맡았고, 황성주 UNIST 전기전자컴퓨터공학부 교수와 서병기 UNIST 경영학부 교수도 연구에 참여한다. KAIST, 고려대, 연세의료원, 인공지능 관련기업인 AI트릭스(AItrics)와도 협업할 계획이다.
차세대 AI 기술 연구의 목표는 인공지능이 의사결정을 내린 이유를 설명하는 것이다. 기존 인공지능 시스템은 주어진 자료를 정확히 분석하고 예측할 수 있지만 의사결정의 이유를 설명하진 못한다. 이 때문에 주가 예측이나 군사 작전, 질병 진단 등 신뢰도가 중요한 전문 분야에 인공지능을 적용하기 어려웠다. 인공지능 시스템의 설명 가능성은 최근 중요 문제로 떠오르고 있다. AI의 이해할 수 없는 판단을 인간이 그대로 수용해야 하는가 등 AI와 인간의 관계에 대한 불안감이 높아지고 있기 때문이다. 미국에서도 방위 고등 연구 계획국(DARPA)의 주도 하에 활발한 연구가 진행되고 있는 것으로 전해졌다.
최재식 교수는 “인공지능이 현실세계의 데이터를 기반으로 학습하고 추론해 내린 결정의 이유를 설명하도록 만드는 게 목표”라며 “주요 원인과 결과 사이의 변화를 학습하고, 사람이 말이나 시각자료로 설명하는 방식을 모방하는 인공지능 소프트웨어를 개발할 것”이라고 설명했다.
울산시도 지역산업에 새로운 성장 동력이 될 것을 기대하며 UNIST의 인공지능 개발에 적극 지원키로 결정했다. 현재 울산시에서 추진 중인 바이오메디컬육성사업과 연계, 질병 예측 및 전문 의료 서비스가 가능할 것으로 보고 있다.
