"가짜신분증, AI가 0.5초만에 적발"…'딥페이크 저승사자' 떴다

◆'딥페이크' 탐지 선구자… 삼성SDS 사내벤처 '팀나인'
비대면 금융서비스 이용↑…지난해 메신저피싱 피해액 991억
신분증 실물을 촬영한 것인지 사본을 촬영한 것인지 AI가 판별
증권사 공급 시작…직원 한명 하루 판별량 AI가 1시간 만에
진단서·영수증 위조 적발 기술도 개발해 보험사 등에 공급 예정

50대 김모 씨는 최근 은행으로부터 1억원 넘는 빚이 있다는 통보를 받고 깜짝 놀랐다. 최근 방문했던 휴대전화 판매점의 직원이 김씨 신분증을 몰래 촬영한 뒤 휴대전화 개통에 계좌 개설, 대출까지 한 것이다. 금융실명법상 신분증 실물을 촬영해야만 비대면 금융 서비스를 이용할 수 있다. 하지만 대부분의 은행은 신분증 실물과 실물 촬영본을 구분하는 기술을 갖추지 못해 범죄 피해 사례가 늘어나고 있다.



신분증 실물을 촬영하고 다양한 화면에 띄웠을 때 모습. 왼쪽부터 인쇄본 사본, 스마트폰 화면 사본, 노트북 화면 사본, 모니터 화면 사본. 이러한 사본들로는 계좌 개설 등이 불가능하지만 육안으로는 실물 자체를 찍은 것처럼 보이기에 각종 비대면 금융 서비스에 쉽게 접근할 수 있다. 사진제공=삼성SDS

17일 업계에 따르면 삼성SDS의 사내벤처 ‘팀나인(Team9)’은 신분증 실물과 촬영본을 구분하는 인공지능(AI) 기술을 개발해 최근 국내 한 증권사에 공급했다. 팀나인은 2019년 12월 사내 벤처 육성 프로그램 '시드랩(Xeed-LAB)' 4기로 선발된 ‘딥페이크(Deep Fake)’ 위·변조 탐지 스타트업이다. 딥페이크는 AI를 이용해 사람 얼굴·부위를 합성해 원본과 구분하기 힘든 가짜 영상·사진을 만드는 것이다. 팀나인의 ‘주파수 레벨 섭동을 활용한 딥페이크 탐지’ 논문은 올해 국제인공지능학회(AAAI)에 실리는 등 국제적으로도 인정받고 있다.


홍민기 팀나인 소사장은 “AI 정치인 등 딥페이크로 만든 합성이 이슈가 되고 범죄에 악용되는 경우가 빈번해졌다”며 “딥페이크 ‘합성’이 아닌 ‘탐지’ 기술을 구현하는 곳은 국내에서 팀나인이 거의 유일하다”고 말했다.



AI 기반 딥페이크 기술로 만든 오바마 전 미국 대통령 영상. 4개 다 ‘가짜’ 오바마다. 사진=유튜브 캡처

증권사의 경우 그동안 10명의 직원이 하루 6000개의 신분증 실물 여부를 일일이 판단해야 했지만 팀나인의 기술 도입으로 AI가 1시간 만에 가짜를 걸러낸다. 홍 소사장은 이를 ‘칩페이크(Cheapfake)’ 탐지 기술이라 설명했다.칩페이크는 딥페이크에 비해 짧은 시간과 노력으로 할 수 있다는 의미로, 그림판 등으로 간단하게 합성·편집하는 것을 뜻한다. 금융감독원에 따르면 지난해 메신저피싱 피해액은 991억원으로 비대면 이용이 늘며 전년 대비 165.7% 급증했다. 메신저피싱의 대부분은 문자메시지·카카오톡으로 신분증 촬영본 등 개인정보를 요구하는 경우로 추정된다.



삼성SDS의 사내벤처 팀나인(Team9). 왼쪽부터 류영주 프로, 유효선 프로, 홍민기 소사장, 서연아 프로, 박창현 프로. 윤관식, 황솔비, 김평건, 김민영 프로는 당일 재택근무로 함께 하지 못했다. 사진제공=삼성SDS

팀나인은 지난해 12월부터 6개월간 20만장의 사진을 찍었다. AI가 머신러닝 기반이기 때문에 각종 화면에 뜬 신분증을 하나하나 찍었다. 팀나인의 박창현 프로는 “삼성·LG·델 모니터에 갤럭시 탭, 아이패드, 아이폰, 갤럭시노트 등 찍을 수 있는 스크린은 다 찍었다”며 “얼마 전 삼성 갤럭시Z폴드·플립4도 나왔으니 접히는 화면에 뜬 신분증처럼 촬영해야 할 화면들은 아직도 많다”고 말했다.



왼쪽부터 신분증 실물, 인쇄물, 모니터 스크린 촬영 이미지. 육안으로는 구분이 불가능하지만 AI가 화면을 확대해 차이점을 분석해 진위 여부를 판단한다. 사진제공=삼성SDS

팀나인의 칩페이크 기술은 실물과 촬영본을 구분하지 못하는 육안과 달리 정확도가 97%에 이른다. AI가 화면을 확대해 재질 차이로 원본과 사본을 구분해낸다. 신분증 실물과 모니터 촬영 이미지 홀로그램, 격자무늬 현상 등의 차이를 AI가 파악한다는 것이다. 박 프로는 “최근 한 은행에 가서 직접 테스트 했는데 100% 참·거짓을 구분했더니 은행측이 매우 놀라워했다"고 말했다. 홍 소사장은 “국내 증권사들의 경우 하루 20만~30만 개의 신분증이 접수된다”며 “기술 도입 문의가 증가하고 있다”고 덧붙였다.






팀나인은 진단서·영수증 위조를 잡아내는 기술도 개발해 조만간 보험사에 공급한다. 보험사기 중 가장 많은 유형(19.5%)이 진단서 위·변조 등을 통한 과다 청구기 때문이다. 최근에도 진단서 날짜 등을 그림판으로 고쳐, 촬영한 뒤 비대면으로 보험금을 청구한 시민이 적발되기도 했다. 홍 소사장은 “보험금 청구는 사고일로부터 3년 이내면 가능해 하나의 진단서로 범죄를 계속 저지르기도 한다”며 “특히 보험 약관상 ‘작성자 불이익 원칙’ 때문에 고객이 아닌 보험사가 손해를 보는 경우가 많았다”고 말했다.


<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지>