서울시, AI로 온라인 성착취 차단한다

서울시가 인공지능(AI)으로 온라인 성매매 광고와 불법 행위를 차단하는 시스템을 도입한다.

서울시는 온라인 유해정보 차단력을 높이고 예방 교육을 강화하는 내용의 '아동·청소년 성착취 방지대책 2.0'을 추진한다고 14일 밝혔다.

우선 온라인 성매매 광고의 대량 유포와 성착취 유인 행위 확산을 막기 위해 내년 중 AI 기술을 활용한 불법·유해 정보 자동 수집 및 분석 시스템을 개발한다. 수작업에 의존했던 증거 채집을 자동화하고 24시간 실시간 모니터링이 가능해진다. 온라인 성매매·성착취 콘텐츠에서 자주 발견되는 패턴을 학습해 정확도순으로 게시물을 추출하고 서버주소나 업소·운영자 연락처 등 단서를 분석해 경찰에 신고할 수도 있다.



서울시는 AI 시스템으로 검출한 성착취 유인패턴과 검색어를 소셜네트워크서비스(SNS)와 포털 사이트에 제공할 예정이다. 포털은 이를 토대로 관련 검색어 검색 불능 조치를 하거나 경고 메시지를 띄울 수 있다.

서울시는 시립 다시함께상담센터에 우울 커뮤니티·게임·중고 거래 사이트 등에서 성착취 유인 행위를 감시하는 모니터링 전문인력 2명을 배치한다. 온라인 사업자, 서울경찰청 및 교육청, 아동·청소년 기관 등과 안전망 역할을 하기 위한 협의체인 '아동·청소년 성보호-넷(Net)'도 구축한다.

뿐만 아니라 서울시교육청, 서울경찰청, 공공기관 관련 부서에 아동·청소년 보호 교육 강사를 파견한다. 성착취 예방교육 콘텐츠를 개발해 내년부터 아동·청소년 2000여명을 대상으로 교육을 진행한다.

김선순 서울시 여성가족정책실장은 "디지털 공간을 감시하면서 시민들이 경각심을 갖도록 인식개선 캠페인을 병행하겠다"고 말했다.