유동연 페이스북 콘텐츠 정책 매니저가 28일 서울 강남구 페이스북코리아 본사에서 열린 미디어 간담회에서 페이스북의 커뮤니티 규정에 대해 설명하고 있다./사진제공=페이스북코리아“페이스북이 커뮤니티 플랫폼에 올라오는 콘텐츠를 판별할 때 인공지능(AI)를 활용해 사전조치율을 높이고 있지만, 맥락이나 의도를 파악해야 하는 혐오발언이나 따돌림·집단 괴롭힘의 경우에는 별도의 리뷰 인력과 전문가들의 도움을 받아 관리하고 있습니다.”
유동연 페이스북 콘텐츠 정책 매니저는 28일 서울 강남구 페이스북코리아 본사에서 열린 미디어 간담회에서 이 같이 밝혔다.
페이스북의 커뮤니티 규정은 플랫폼 내에서 위반되거나 허용되는 콘텐츠에 대한 전반적인 규칙으로, 사람들로 하여금 자유롭게 표현하는 동시에 안전하게 서비스를 이용할 수 있도록 돕기 위해 제정됐다. 이에 페이스북은 유해 콘텐츠를 가짜계정, 스팸, 성인물, 폭력적이고 자극적인 콘텐츠, 테러리스트 선전, 혐오발언, 따돌림과 집단 괴롭힘, 마약 판매, 아동 나체이미지 및 아동에 대한 성착취, 자살 및 자해 등 10개 항목으로 나누어 분류하고 있다.
유 매니저의 설명에 따르면 페이스북은 이들 유해 콘텐츠에 대해 이용자의 신고가 있기 전 AI가 미리 유해성을 판별해 삭제하도록 조치하고 있다. 지난 3분기 기준 대부분의 유해 콘텐츠의 AI 사전조치율은 90%를 넘었다. 하지만 혐오발언과 따도림의 경우 각각 사전조치율이 80.1%와 16.1%에 불과했다. 이에 대해 유 매니저는 “AI가 비디오 등을 움직이는 이미지는 잘 판별하지만 혐오발언과 따돌림의 경우에는 맥락이나 의도가 중요하고 받아들이는 사람이 어떻게 받아들이느냐가 중요해 AI가 판별하기에 부족하다”고 설명했다.
이처럼 AI가 미처 사전에 조치하지 못한 콘텐츠를 관리하기 위해 페이스북은 전 세계에 별도의 리뷰 인력 1만5,000여명을 투입했다. 한국어 포함 50개 이상의 언어를 지원하고 있고, 이들은 새로운 정책이나 개정된 부분에 대해 지속적으로 훈련을 받는다.
앞으로도 페이스북은 유해 콘텐츠를 사전에 감지하고, 이용자들의 신고에 대응하기 위해 AI와 관련 인력에 지속적으로 투자할 계획이다. 소피 보겔 페이스북 아시아태평양 정책 커뮤니케이션 매니저는 “AI가 이제는 가짜 계정을 악용하는 경우도 잡아낸다”며 “AI를 활용한 유해 콘텐츠 관리를 늘려갈 것”이라고 말했다.
