실리콘밸리의 인터넷 정화운동

이 기사는 포춘코리아 2018년 6월호에 실린 포춘US 번역 기사입니다.

실리콘밸리 기업들이 수 천명의 콘텐츠 검열 직원들을 고용하고 있다. 이들은 홍수처럼 넘쳐나는 가짜 뉴스와 기괴한 뉴스, 범죄 관련 온라인 콘텐츠를 가려내고 있다. 그러나 그 정도론 충분치 않다. By Michal Lev-Ram

^대학 학위와 분석능력, 그리고 수상한 콘텐츠를 잡아낼 매의 눈을 가졌는가? 그렇다면 당신은 세계 최대 SNS회사 페이스북에서 ’뉴스 피드 데이터 진실성 전문가(News Feed integrity data specialist)‘로 일할 자격을 가졌다.

^업계에서 통용되는 이 멋진 이름의 직책은 페이스북의 행동강령을 위반할 소지가 있는 기사와 동영상, 다른 온라인 게시물을 검토해 가려내는 업무를 수행한다. 현재 수요가 증가하고 있는 전문 직종이다. 가짜 뉴스의 범람과 뉴스를 통한 여론몰이, 러시아 개입 정치 선전 같은 사건에 대응하기 위해 마련된 자리이다. 이 SNS 대기업은 이미 1만 명의 직원(그 중 7,500명은 ’인간 조정자(human moderators)‘로 불린다)을 고용해 안전과 보안 강화에 힘을 쏟고 있다. 그리고 연말까지 이 인원을 2만 명으로 늘릴 계획이다. 의심쩍은 동영상(폭력적이고 불쾌한 동영상은 말할 필요도 없다)이 유튜브 상에서 판을 치도록 방치한 혐의로, 알파벳Alphabet의 담당 부서는 대중의 뭇매를 맞고 있다. 그래서 콘텐츠를 가려낼 인력을 고용했으며, 올해까지 1만 명 이상의 직원을 배치할 예정이다. 트위터Twitter 또한 매크로 계정의 범람과 앱 상의 ’못된 사용자‘ 문제로 상당한 압력을 느끼고 있다. 이 회사는 현재까진 검열 직원을 얼마나 고용했는지, 또 앞으로 얼마나 영입할지 구체적으로 밝히고 있지 않다. 하지만 실제 사용자들이 ’좀 더 안전하게‘ 앱을 사용할 수 있도록 담당 직원을 활용할 것이란 사실은 발표했다.

^회사 대변인은 포춘과의 이메일 인터뷰에서 “우리는 트위터 상의 오남용을 방지하기 위해 콘텐츠 검열 인력과 머신 러닝 기술에 막대한 투자를 하고 있다”고 밝혔다.

^전문가들은 현재로선 실제 인력을 활용하는 것이 필수적이라고 말한다. 기계 알고리즘은 아직도 누군가 치킨 샌드위치를 먹는 비디오와 부적절한 행동을 취하고 있는 동영상을 구분하지 못하기 때문이란 게 그들이 설명이다(안타깝게도 실제 사례다).



^그러나 인력 고용은 지속 가능한 해결책이 될 수 없다. 페이스북이 오남용을 막기 위해 추가 고용할 1만 명과 다른 직원들은 너무나 값비싼 대안이다. 현재 직원만 해도 2만 5,105명에 달하기 때문이다. 심지어 신규 고용 직원들이 계약직이라도 마찬가지다. 이처럼 많은 수의 추가 고용은 IT 회사의 비즈니스 모델에 적합하지 않다.




^하지만 이미 시행되고 있는 기술적 대안이 있다. 작년 12월 유튜브 CEO 수전 워치츠키Susan Wojcicki는 “회사의 검열 직원을 늘리겠다”고 발표하면서 “인공지능도 실제 업무에 활용되고 있다”고 밝힌 바 있다. 그녀는 작년 말 회사 블로그에 다음과 같은 글을 남겼다. ‘우리는 (2017년) 6월부터 폭력적이고 극단적인 콘텐츠 검토와 적발에 머신 러닝 기술을 사용했다. 그 결과 18만 명의 사람이 1주일에 40시간 동안 해야 할 일을 처리할 수 있었다.’

^역사를 통해 살펴본다면, 기술적 도구의 효율성은 좀 더 섬세한 인간의 능력을 뛰어넘을 것이다. 일례로, 야후 같은 초기 검색 포털사이트는 인간 큐레이터에 의존했다. 수 천명의 인력을 고용, 온라인 상에서 빠르게 인기를 얻는 콘텐츠를 깔끔하게 분류하고 선별해냈다. 하지만 얼마 지나지 않아 구글이 구축한 알고리즘이 훨씬 뛰어난 성능을 보였다. 그 후 상황은 모두가 잘 알 것이다(물론 야후가 포털 사이트에서 실패한 이유는 분명 여러 가지가 있다).

^페이스북은 수 천명을 신규 고용했고, CEO 마크 저커버그 Mark Zuckerberg는 러시아의 미국 대선 개입 같은 문제를 자신의 플랫폼에서 깨끗이 청소하고 싶다는 ‘매우 진중한’ 뜻을 밝힌 바 있다. 하지만 단지 그렇다고 해서 그가 ‘인간 조정자 부대’의 고용을 효율적이거나 장기적인 해결책으로 보는 것은 아니다. 오히려 그와 업계는 인력 고용을 임시방편으로 여기고 있다. 이런 움직임은 대외 이미지 관리용일 뿐 아니라, ‘기술 남용을 해결하기 위해 더욱 많은 기술을 사용한다’는 사실에 회의적인 사람들을 달래기 위한 조치에 불과하다.

^냉소적이라 생각하는가? 어쩌면 맞을 수도 있다. 하지만 이렇게 생각해보자: 이 세계 최대 SNS기업은 월별 활성사용자 21억3,000만 명을 보유하고 있다. 안전 및 보안 전문가 2만 명을 고용한다고 해도, 여전히 전문가 1명당 10만개의 계정을 맡는 셈이다. 거기에 사람이든 로봇이든 등록된 사용자가 생성한 모든 동영상과 메시지까지 더한다면, 검열해야 할 콘텐츠는 훨씬 더 많아진다.

^유명 SNS플랫폼 상에서 즉시 노출되는 잘못된 정보와 혐오 발언, 폭력적 콘텐츠(일부 사례만 든 것이다)의 확산을 막을 수 있다는 실낱 같은 희망이 있다면, 일일이 거짓 콘텐츠를 가려내느라 고생하는 불쌍한 영혼들이 그 유일한 해결책은 아니라는 뜻이다. 그보다는 소수의 인력이 아직은 개발되지 않은 기술을 활용해 이 문제를 해결할 수 있을 것이다. 하루빨리 그 날이 오길 기대해보자.