혐오 발언으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’.최근 인공지능(AI) 챗봇 ‘이루다’의 혐오 발언 논란 등 AI 오작동·오류로 인한 사고가 발생하면서 기업들의 ‘AI 리스크’ 대응을 위한 관련 보험 개발과 활용의 필요성이 제기됐다.
18일 보험연구원이 발간하는 KIRI 리포트에 실린 ‘AI 리스크와 전용 보험의 필요성’ 보고서는 AI 리스크에 특화된 AI 전용 보험의 개발 필요성을 강조했다. 최근 여러 기업이 AI 기술을 도입·활용하면서 긍정적 효과들이 부각되고 있지만 동시에 새로운 형태의 사고 발생에 따른 우려도 나타나고 있기 때문에 보험 업계의 대응을 주문한 것이다.
미국 시장조사 기업 가트너가 전 세계 89개국, 3,000명의 최고정보관리책임자(CIO)를 대상으로 진행한 설문 조사에 따르면 지난 4년간(2015~2019년) ‘AI 기술을 활용하고 있다’고 응답한 기업의 수는 10%에서 37%로 증가했다. 구글, 제너럴모터스(GM), 파이저 등 글로벌 기업 91.5%는 ‘AI 기술에 지속적으로 투자하고 있다’고 답했다.
AI 기술이 발전하고 있지만 동시에 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과인 AI 리스크도 더욱 다양한 형태로 진화하고 있다. 김윤진 보험연구원 연구원은 “AI 기술 도입이 단기간에 급격하게 증가함에 따라 이전에는 예상할 수 없었던 AI 오작동 및 오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기되고 있다”고 지적했다.
실제로 국내 스타트업이 개발한 챗봇 ‘이루다’가 편향된 알고리즘 데이터 학습에 따른 성차별·사회적 약자 혐오 발언을 해 출시 한 달도 안 돼 서비스가 중단됐다. 미국에서는 승차 공유 업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 신체 상해를 입고 사망한 사건이 발생하기도 했다.
보고서는 기업들의 AI 리스크 인식과 대응 수준이 낮은 것으로 평가되는 만큼 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다고 강조했다. 특히 현재 판매되는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만 보장하는 수준에 머물고 있다. AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없는 만큼 AI 전용 보험 개발이 시급한 상황이다. 가령 B사가 설계한 챗봇을 A사가 도입해 사용하던 중 알고리즘 오류로 인해 챗봇이 A사 브랜드 이미지를 훼손하는 경우 사이버 보험은 이를 보장하지 않고 있다. AI 활용에 따른 유무형의 피해가 발생할 경우 책임 소재를 놓고 논란이 커질 가능성이 크다. 김 연구원은 “보험사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장 범위를 확대할 필요가 있다”고 지적했다.
보험사 자체적으로도 AI 리스크를 대비해야 한다는 지적도 나왔다. 김 연구원은 “우리나라 보험사들도 AI 챗봇을 고객 상담에 활용하고 보험 사기 예방을 위해 AI 기술을 적용하는 등 AI 기술 도입이 증가하고 있기 때문에 보험사도 자체적으로 AI 리스크에 대비해야 한다”고 덧붙였다.
