서울기술연구원은 날로 지능화하는 디지털 성범죄에 선제적으로 대응하기 위해 인공지능(AI)을 기반으로 성범죄 피해 영상물을 식별하고 삭제할 수 있는 기술을 개발한다고 7일 밝혔다.
현재 서울시 디지털성범죄 안심지원센터는 ‘불법 촬영물 추적 시스템’ 기반의 안면 인식 기술을 활용해 불법 영상물의 재유포를 차단하거나 삭제하고 있다. 하지만 빠르게 확산하는 피해 영상물을 감시하고 대응하기 위해서는 기술적 개선이 시급한 실정이다.
서울기술연구원의 AI 기술은 성범죄 피해 영상을 자동으로 정확히 찾아내고 삭제 요청까지 원스톱으로 지원하는 방식이다. 기존 방식이었던 피해자 영상 속 얼굴 매칭뿐 아니라 움직임 패턴, 오디오 주파수, 대화 내용까지 복합적으로 분석할 수 있어 사이버 공간에서 불법 영상 추적 업무에 정확도를 향상할 수 있다.
연구원은 영상을 삭제해도 시간이 지나면 다시 확산되는 특성을 고려해 AI 기반의 디지털 성범죄 유해 사이트 자동 검색 기능도 접목할 예정이다. 실제 성범죄 피해 영상의 경우 유해 사이트가 서버를 바꿔가며 운영하거나 새롭게 생성하는 방식으로 동영상을 빠르게 유포하는 특성이 있어 재확산 방지에도 큰 역할을 할 것으로 보인다.
성범죄 영상물에 과도하게 노출되는 단속 인력의 업무 스트레스도 경감할 수 있을 전망이다. 또 AI 기술을 통한 영상물 검색의 정확도 향상, 자동 검색 기능은 피해자 보호뿐만 아니라 직원의 심리적 고통 완화에도 큰 도움이 될 것으로 기대하고 있다..
임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이라며 “AI 삭제 지원 시스템 개발을 성공적으로 마무리하고 24시간 가동될 수 있도록 해 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력하겠다”고 말했다.
