이스라엘의 공습으로 파괴된 가자지구 난민촌 풍경. AP연합뉴스가자지구 전쟁으로 민간인 사망이 속출하고 있는 가운데 이스라엘이 동원한 인공지능(AI) 무기가 과잉 학살의 원인이라는 지적이 나왔다.
3일(현지시간) 미국 정치전문매체 폴리티코에 따르면 이스라엘은 가자지구를 공격하면서 학교, 구호단체 사무실, 예배 장소 등의 타격 목표물을 골라낼 때 ‘복음(Gospel)’이라는 이름의 AI 기반 시스템을 활용 중이다. 이 시스템은 기계학습을 통해 방대한 양의 데이터를 신속하게 분석해 공격할 수 있는 목표물을 가려낸다. 이스라엘군은 지난해 11월 성명을 통해 복음 시스템이 정확도를 높이는 것 외에도 “자동화를 활용해 빠른 속도로 표적을 생성할 수 있다”고 밝힌 바 있다. 군은 이런 AI 기능을 통해 전투가 시작된 후 27일간 1만 2000개 이상의 목표물을 타격했다고 언급하기도 했다. 다만 공격에 대한 최종 결정은 사람이 내리며 명령 체계에 있는 적어도 한 명 이상의 승인이 필요하다는 게 이스라엘군의 설명이다.
하지만 인권 단체들은 이스라엘군의 이런 AI 활용이 적절하게 이뤄지고 있는지에 의문을 제기하고 있다. 팔레스타인 비영리 인권단체 함례(7amleh)는 최근 성명에서 “전쟁에 자동화된 무기를 사용하는 것은 팔레스타인 주민들에게 최고로 사악한 위협”이라고 주장했다. 이스라엘 최대 인권단체인 이스라엘민권협회도 지난해 12월 자동 표적 시스템과 관련해 더 높은 투명성이 필요하다며 군에 정보 공개를 청구했다.
AI 전쟁의 정책과 현황 등을 추적하는 미국 인사들도 이스라엘이 본래 목적을 왜곡해 표적 목록을 확대하는데 AI를 사용하고 있다고 주장했다. 진보 성향의 외교 정책 싱크탱크인 국제정책센터의 낸시 오카일 대표는 “이스라엘이 ‘파워 티켓’이라고 부르는 목표물을 잡으려고 AI를 활용했다는 사실이 분명해지고 있다”면서 이는 정밀 타격을 위해 AI를 사용한다는 본래의 목적과는 다른 것이라고 말했다. 이스라엘군은 하마스 또는 팔레스타인 이슬람 지하드와 관련해 안보 또는 인식상 중요성이 있는 표적을 파워 티켓이라고 부르는데, 오카일 대표는 이스라엘군이 파워 티켓 지정을 광범위하게 하고 있다는 입장이다.
폴리티코는 이처럼 이스라엘군에 AI 투명성을 높이라는 지적이 이스라엘의 최우방국 중 하나인 미국 정치권을 불편하게 만들 것이라고 논평했다. 실제 미국 정부는 이스라엘의 AI 사용에 대해 언급하기를 피해왔다. 이스라엘은 지난해 11월 미국이 ‘전쟁에서의 책임있는 AI 사용’을 촉구하며 제안한 국제 논의 구상에도 동참하지 않은 상태다.
영국 보안업체 ‘트레일 오브 비트’의 하이디 클라프 이사는 “AI 시스템의 높은 오류율 기록을 고려할 때, 목표물을 부정확하고 편향적으로 자동화하는 것은 무차별적 표적 공격과 크게 다르지 않다”고 설명했다.
