“도로 왼쪽에는 어린이가, 오른쪽에는 노인이 걸어가고 있을 때 자율주행자동차가 사고를 피할 수 없는 상황이라고 가정하죠. 인공지능(AI)은 어떤 선택을 해야 할까요. 결과도 중요하지만 본질은 내린 결정에 대한 이유를 사람에게 설명할 수 있어야 한다는 것입니다.”

다니엘라 러스 미국 매사추세츠공대(MIT) 컴퓨터 과학 및 인공지능연구소(CSAIL) 소장은 24일 서울 장충동 신라호텔에서 열린 ‘서울포럼 2017’에서 국내 자동차·금융·정보통신(IT) 등 다양한 산업 분야 17명의 전문가들과 함께한 라운드테이블 오찬에서 4차 산업혁명 시대의 윤리적 딜레마와 기술 발전 방향에 대한 이 같은 흥미로운 화두를 던졌다. 질문을 ‘AI의 윤리적 판단을 어떻게 알고리즘으로 구현해낼지’에서 ‘사람의 인격을 기계에 어떻게 확장할지’로 바꾼 것이다.

그동안 국내에서의 논의는 AI의 선택은 어떤 방식으로 결정돼야 하는지에만 한정됐다. 반면 러스 소장은 이러한 이분법에서 벗어나 “우리가 로봇을 활용하게 되면 로봇이 어떻게 결정을 내리는지를 이해해야 하고 로봇의 결정을 사람이 이해할 수 있게 설명하는 기술을 개발해야 한다”고 주장했다. 이러한 러스 소장의 주장은 AI의 자율성 단계가 높아질 때 부딪히는 윤리적 딜레마를 어떤 식으로 풀어나가야 할지 방향성을 제시했다는 점에서 의미가 크다.

러스 소장은 “자동차를 고를 때 색상을 고르듯 앞으로는 자동차가 가진 윤리적 선호도 고를 수 있게 될 것”이라며 “이렇게 되면 자동차가 사용자의 인격을 연장하는 도구가 되는 것”이라고 말했다. 그는 이와 관련해 “이미 우리 연구소에서는 도요타와 함께 ‘자동차가 설명할 수 있어야 한다(Car Can Explain)’ 프로젝트를 진행하고 있다”고 덧붙였다. 자신이 던진 윤리적 딜레마 문제에 대해서는 “자율차가 센서와 네트워크를 통해 미리 주변의 모든 정보를 파악하도록 하는 기술과 위험이 감지되면 자율적으로 타이어를 멈추게 하는 ‘안티 록 브레이크’ 기술을 통해 그러한 상황에 빠지지 않게 하는 기술을 발전시켜야 한다”고 답했다.


또 4차 산업혁명 서비스를 개발할 때는 여러 가지 과제를 한꺼번에 해결할 수 있도록 만들기보다 한 가지 과제를 완벽하게 처리할 수 있도록 개발해야 한다는 지적도 눈길을 끌었다. 러스 소장은 AI 바둑 프로그램인 알파고를 예로 들며 “만약 알파고가 체스를 한다고 하면 사람이 이길 것이고 만약 알파고가 바둑을 둘 때 가로세로 19줄인 바둑판이 아닌 40줄로 바꿔 경기를 한다고 하면 사람이 이길 가능성이 높아질 것”이라며 “AI를 딥러닝으로 학습시킬 때 도시·숲·사막 등 모든 환경에서 동일한 결과가 나오도록 기대하지 말고 한 가지 분야에 초점을 맞춘 시스템을 개발해야 신뢰도가 높아진다”고 말했다.

AI를 금융에 접목했을 때 부(富)를 창출할 수 있는지도 이날 오찬의 화젯거리였다. 임병철 신한금융지주 미래전략연구소장은 “미국과 홍콩에서는 AI로 과거 투자자산의 추이를 분석해 3시간 뒤, 1주일 뒤 주가 예측을 시도한다”며 이런 방식이 가능할지 물었다. 러스 소장은 “주가 예측을 할 수 있었다면 지금 이 자리에 있지 않겠죠”라고 답해 청중들의 웃음을 자아냈다. 그는 이어 “주식은 게임과는 아예 다른데 주식시장에 작용하는 여러 변수를 포착한 프로그램은 없다”며 “점차 기술이 발전하고 애널리스트들도 리스크를 파악·분석하게 되면 조금씩 변화가 나타날 것으로 기대한다”고 설명했다.

김병학 카카오 AI부문 총괄 부사장은 ‘로봇의 미래’를 화두로 던졌다. 러스 소장은 먼저 20년 전 제록스 연구소의 마크 와이저가 컴퓨터 상용화를 예견했을 당시 세간에서 ‘꿈 같은 얘기’라며 귀담아듣지 않았던 과거를 예로 들었다. 이어 “앞으로 20년 뒤에는 상상도 할 수 없을 만큼 발전이 이뤄질 것”이라며 “로봇이 우리 사회에 다양하게 침투해 많은 일을 나눌 것이므로 사람과 어떻게 협력할지를 고민해야 한다”고 강조했다.

자동차부터 바둑·금융·로봇 등 AI가 적용될 수 있는 여러 분야를 얘기하다 보니 주어진 80분은 금세 흘러갔다. AI가 가져올 미래를 꿈꾸느라 참석자들은 시간을 잊은 듯했다.

러스 소장은 대화를 마무리하며 무엇보다 사람들의 유연한 사고가 중요하다고 힘줘 말했다. 기술의 진화와 상호작용 속에서 새로운 시대에 막연한 두려움을 갖기보다는 상황을 받아들이고 배우며 적응해야 한다는 것이다. 그는 맺음말에서 “다양한 질문 속에서 한국의 밝은 미래를 엿볼 수 있었다”며 “한국, 그리고 여러 기업인들과 앞으로도 교류하고 싶다”고 밝혔다.

/임진혁·강광우기자 pressk@sedaily.com