네이버가 인공지능(AI) 기술을 통해 인터넷상의 ‘야한 사진’에 이어 ‘야한 동영상(야동)’까지 걸러낸다.
7일 업계에 따르면 네이버는 오는 12일부터 자사의 AI 기반 음란물 검열 기술 ‘엑스아이(X-eye)’를 동영상 분야에도 적용한다. 네이버 카페나 블로그 등 온라인상에 동영상이 올라오면 장면마다 엑스아이가 음란물 여부를 확인해 차단 여부를 결정하는 구조다. 동영상에 처음 등장하는 인물들이 정상적으로 옷을 입고 있으면 정상 콘텐츠로 판단할 수 있지만 뒤로 갈수록 노출 강도가 심해지면 최종적으로 이를 음란물로 분류해 5분 안에 접근을 차단시킨다. 엑스아이는 지난 7월 이미지 감시 시스템으로 처음 도입됐다. 네이버에 하루 평균 800만장 가량 등록되는 이미지 데이터의 유해 여부를 일차적으로 걸러내는 역할을 한다.
신체 일부가 드러나도 수영복을 입은 사진이거나 예술작품인 경우 음란물로 분류하기 어려워서 개발팀은 1년 동안 이미지 400만장 이상을 등록해 반복 학습을 거쳐 차단 콘텐츠를 41가지 유형별로 쪼갰다. 이를 통해 엑스아이의 음란물 분류 정확도는 98%까지 올라갔다는 것이 네이버 측의 설명이다.
네이버는 앞으로 엑스아이 서비스를 자사의 소셜네트워크서비스(SNS)인 ‘밴드’와 모바일 메신저 ‘라인’에도 확대 적용할 계획이다. 불법 유해 음란물을 SNS나 모바일 메신저로 무분별하게 공유하는 것을 차단하려는 취지다. 또한 네이버 플랫폼에서 이뤄지는 인터넷 ‘1인 방송’ 등에도 엑스아이 시스템이 도입될 예정이다.
장기적으로는 ‘몰래카메라’ 및 ‘리벤지 포르노(복수 목적의 음란물)’와의 전쟁을 선포한 정부와도 협업을 추진한다. 문재인 대통령은 지난 9월 국무회의에서 몰래카메라 범죄 근절을 위한 고강도 대책을 마련하라고 각 정부부처에 지시한 바 있다. 제4기 방송통신위원회 역시 최근 주요 정책 목표를 공개하며 AI 기술을 활용한 불법 영상 실시간 차단 기술을 과학기술정보통신부와 함께 개발하겠다고 발표했다. 네이버 관계자는 “앞으로 엑스아이의 API(응용 프로그래밍 환경)을 공개해 다양한 영역에서 유해 콘텐츠를 걸러낼 것”이라고 말했다.
