지난 2016년 3월 인공지능(AI)과 인간의 대결로 세간의 이목이 집중된 알파고 대 이세돌 간의 바둑 대결은 AI 시대를 예고하는 서막이었다. 이후 AI는 전 산업에 걸쳐 4차 산업혁명을 주도하고 있다.

AI 시대의 전망이 밝은 것만은 아니다. 모든 과학기술이 시행착오를 거치며 발전하듯 AI도 예외일 수 없다. 그러나 AI는 기존의 어떤 과학기술보다 강력하고 위협적이어서 AI의 시행착오는 돌이킬 수 없는 결과로 이어질 수 있다. 미국의 나이트캐피털그룹은 2012년 트레이딩 소프트웨어의 오류로 단 45분 만에 4억 4,000만 달러의 손실을 봤고 다음날 주가는 47.4% 폭락했다. 트레이딩 소프트웨어 하자의 파급력이 이 정도인데 그보다 훨씬 강력한 기술인 AI에 오류가 발생할 경우 눈 깜짝할 사이에 감당할 수 없는 금융 사고가 발생할 수도 있다.

매사추세츠공대(MIT) 물리학 교수인 맥스 테그마크는 저서 ‘라이프3.0’에서 기술이 강력할수록 시행착오를 통한 사후 대응보다는 사전 안전 연구에 중점을 둬야 한다고 했다. 쥐덫과 원자력을 비교할 때 원자력의 사전 안전 연구의 중요성이 크다는 점은 두말할 필요가 없다. AI는 전력망이나 주식시장, 핵무기 시스템을 파괴할 수 있는 막강한 기술이다. 따라서 AI에 대해 사후 대응이 아닌 사전 안전 연구에 집중해야 한다는 것이다.

이런 점을 고려할 때 이번 금융위원회의 ‘금융 분야 AI 운영 가이드라인’ 제정 방안은 환영할 만하다. 금융 분야에서 AI는 이미 투자자문, 알고리즘 거래, 고빈도 거래 등에 이용되며 향후 대고객 업무, 신용평가 및 대출·보험심사 업무, 사기탐지 업무 등에 전면 투입될 예정이다. 로보어드바이저와 같은 금융 분야에서의 AI 활용 확대에 대비해 AI의 잠재적 위험을 해소하고 신뢰성을 확보하기 위한 조치로 생각된다.

다만 가보지 않은 길을 예측해 대응하는 것은 한계가 있다. 그리고 아무리 노력해도 완벽한 조치는 존재하지 않는다. 사고는 발생할 수밖에 없고 사고의 피해가 우리가 감내할 수 없는 수준이라면 우리는 AI를 활용하는 데 주저할 수밖에 없을 것이다. 따라서 잠재적 위험성 해소를 위한 대비책이 필요하다. 그 하나로 원자력 사고를 예방하기 위해 최선을 다하지만 사고 발생에 대비해 원자력 사고 보험이 있는 것처럼 AI에 대해서도 사전 안전 조치에 최선을 기울이되 AI 사고 보험이 마련될 필요가 있다.

보험 산업의 미래를 어둡게 전망하는 이들이 많지만 오히려 새롭게 등장하는 다양한 위험들에 대비하려면 보험 산업은 눈코 뜰 새 없이 바쁠 것 같다. AI 시대에 보험 산업은 금융 분야 AI 활용의 주체이자 AI 관련 사고 대응 주체라는 두 가지 역할을 맡게 될 것이다. 보험 산업이 이 두 가지 역할을 성공적으로 수행해내기를 기대한다.