인명 살상이 가능한 자율로봇이 존재하는가? 그 답은 다른 여러 문제와 마찬가지로 정의하기에 따라 다르다. 사람이 밟으면 폭발하는 고정식 폭발물인 지뢰는 살상능력을 갖춘 자율 기기이지만, 누구도 이를 인명 살상이 가능한 로봇으로 보지 않는다.
엘론 머스크의 생명의 미래 연구소로부터 자금지원을 받는 아리조나 주립대학 세계 안보구상은 현재 무기로 사용되고 있는 자율 로봇들을 연구하여, 장차 이 로봇들이 자율적 살상 결정을 하는 데 필요한 기준치를 정했다. 이 연구에서는 매우 흥미로운 의문이 생겼다. 만약 자율 기계들이 인간의 의사결정을 따르지 않고, 독자적으로 의사결정을 내려버린다면 어떻게 되겠는가? 하는 점이다.
군사전문매체인 <디펜스 원>의 연구 보고서 저자인 히더 M. 로프는 “현재 연구되는 자율 체계는 전쟁터에서 인간과 함께 싸우기 위해 개발되는 것이 아니라, 인간 대신 싸우기 위해 개발되고 있다. 이 연구 주제는 이러한 추세와 잘 맞아 떨어진다. 이러한 추세는 특히 무인기에서 두드러지게 나타난다. 현재 개발 중인 병기를 시험하는 무인기들을 보면, 그 자율성은 갈수록 강해지고 있다. 미 국방부에서는 <센토르 전쟁수행>, 즉 인간과 로봇이 팀을 이루어 싸우는 전투를 강조하고 있지만, 이러한 개발 추세 때문에 현재 배치되고 있는 무기체계들은 인간과 함께 전투를 치루는게 아니라 인간이 필요 없이 작동하는 자율경향이 강하다.”고 말한다.
미사일의 사례를 들어보자. 1960년대부터 개발되기 시작한 미사일은, 사람들이 흔히 생각하는 자율 살상 병기는 아니다. 미사일을 조준하는 것도, 발사 결정을 내리는 것도 사람의 몫이다. 하지만 기계가 자율적으로 하는 부분도 있다. 연구 보고서의 저자인 로프는 미사일 유도 체계를 “병기체계가 식별된 표적을 향해 나아가는 능력”으로 정의했다.
미사일 유도 기술은 모든 목표 추적 기술 중 가장 먼저 등장하는 기술이다. 하지만 유도체계는 너무 잘 알려져 있고 널리 보급되어 있기 때문에, 유도체계를 속이는 기술 또한 가능하다.
로프는 “이는 기술적 관점에서 볼 때 타당하다. 미사일의 기본 기술(레이더, 열 영상)은 비교적 간단하며, 다른 여러 기술(표적 식별, 표적 영상 구별)의 기반을 이루기 때문이다. 자율 기술이라는 관점에서 봤을 때 유도는 원치 않는 목표를 추적할 수 있는 큰 위험을 안고 있다. 그래서 지난 50년간 이루어져 온 유도 기술의 진보는, 목표 추적을 기만당할 가능성을 낮추는 데 중점이 두어졌다.”고 말한다.
유도무기가 올바른 표적을 정확히 찾아낼 거라고 믿다가는 인간들에게 매우 끔찍한 결과를 초래할 수도 있다. 지난 2014년, 러시아의 지원을 받는 우크라이나 분리주의자들은 동 우크라이나에서 여러 대의 우크라이나 군수송기를 격추했다. 이 와중에 민간인들을 태운 말레이시아 항공 MH-17편이 우크라이나에서 군수송기로 오인되어 격추당했다. 이는 레이더 영상을 잘못 읽은 조작사의 책임일 수 있다. 이 사건에 사용된 부크 미사일 발사기의 표적 유도 체계는 하늘을 나는 비행기를 발견해내는 데는 뛰어나지만, 군수송기와 민간 여객기를 구분하는 성능은 뛰어나지 못했던 것이다.
그래서 미래의 자율 표적 조준 기술은 선택한 표적을 찾는 능력 뿐 아니라, 표적을 자율적으로 식별해 공격하는 능력이 더 중요하게 될 것이다.
로프의 글을 다시 인용해 보면 “현재 가장 크게 급부상하고 있는 두 기술은 표적 영상 구별 기술 및 배회 기술(일명 자율 교전)이다. 표적 영상 구별 기술은 컴퓨터 시각과 영상 처리 기술을 이용하여 대부분의 최신 미사일 체계에 사용되고 있다. 배회 기술은 현재 특정 원거리 플랫폼 및 소형 무인기에 갈수록 많이 쓰이고 있다. 이 두 기술은 자율성의 새로운 장을 열었다. 병기가 특정 표적을 지정받지 않고 대신 여러 잠재 표적을 지정받은 상태로 교전 구역 내에서 대기하다가, 해당 표적이 나오면 공격하는 시대가 열린 것이다. 이러한 기술은 현재 소수의 체계에서 사용되고 있으나, 개발 과정에서 매우 중요하게 다루어진다.”고 주장한다.
미래 전쟁터의 하늘을 누비게 될 무인기는 지상의 물체들을 보고, 그것들을 인가된 표적 목록과 대조한 후 공격 결정을 내릴 것이다. 물론 이런 무기들도 공격전에 인간의 승인이 필요하게끔 설계될 가능성은 크다. 하지만 전쟁터에서는 상황이 너무 빨리 전개된다. 따라서 군사 지도자들은 인간의 승인이 필요한 무기 체계는 그런 상황에 대응할 능력이 떨어진다고 여길 가능성도 크다. 그렇게 된다면 오히려 기계에게 완전 자율적인 결정권을 부여하려 들지도 모른다.
미 국방부와 여러 국제단체들이 자율 살상 무기의 문제를 가지고 고심하고 있는 상황에서 로프의 연구는 심각하게 고민해야할 문제들이다.
서울경제 파퓰러사이언스 편집부/by Kelsey D. Atherton