사회 사회일반

“이대로 보내시겠습니까”인스타그램, 악플 전송 전에 미리 경고한다

인스타그램, AI가 걸러내는 댓글 경고 도입

사이버 불링(온라인 괴롭힘) /사진제공=이미지투데이사이버 불링(온라인 괴롭힘) /사진제공=이미지투데이



지난달 30일 여행 콘텐츠 스타트업 여행에미치다의 인스타그램 계정에 음란물 영상이 올라왔다. 업로드 당사자로 지목된 고(故) 조준기 대표의 인스타그램 개인 계정에는 수많은 악성 댓글이 달렸다. 심리적 괴로움을 견디지 못한 그는 이틀 뒤 극단적인 선택을 암시하는 글을 올리자 그 게시글마저 악성 댓글로 도배됐다. 결국 조 대표는 극단적인 선택을 하고 말았다.


인스타그램은 앞으로 이 같은 사이버 불링(온라인 괴롭힘)으로 인한 피해자가 나오지 않도록 인공지능(AI)이 전송 버튼을 누르기 전에 부정적 댓글을 미리 감지하는 시스템을 이달 중 도입하기로 했다.

관련기사



인스타그램은 15일 ‘사이버 불링 인식 제고’를 주제로 온라인 기자 간담회를 열고 이 같이 밝혔다. 새로 도입되는 시스템은 이용자가 부정적 댓글을 작성한 뒤 전송 버튼을 누르기 전에 AI가 이를 감지해 해당 댓글을 취소하거나, 순화된 표현으로 내용을 수정하게 하는 ‘댓글 경고’를 한다. 인스타그램 관계자는 “신종 코로나바이러스 감염증(코로나19)으로 사회적 거리두기가 장기화하면서 사회관계망서비스(SNS) 활동이 폭발적으로 늘어나고 있다”며 “이 가운데 심심치 않게 발생하는 사이버 불링 피해를 예방하기 위해 이 같은 시스템을 도입키로 했다”고 설명했다.

인스타그램은 이날 악성댓글로부터 스스로를 보호할 수 있는 기능들도 소개했다. 댓글을 삭제할 필요 없이 댓글 필터링 기능을 통해 불쾌한 댓글은 자동으로 숨길 수 있다. 이 기능을 이용하면 이용자와 이용자를 팔로우한 사람에게는 이 댓글이 나타나지 않는다. 보고 싶지 않은 특정 키워드를 설정하면 그 키워드가 포함된 댓글을 안 보이게 할 수도 있다. 인스타그램 관계자는 “이용자들이 다른 계정을 팔로우하는 상태에서도 원하지 않는 소통을 제한해 사이버 불링에 대응할 수 있도록 지원할 예정”이라고 말했다.

적극적인 보호 조치도 도입한다. 이용자가 특정 콘텐츠를 신고하면 사용자 일시 차단 및 차단, 제한, 팔로우 취소 등 추천 조치를 확인할 수 있다. 또 인스타그램의 조치가 충분하지 않다고 생각할 경우 ‘검토 요청’을 통해 재검토 신청도 할 수 있다.


정혜진 기자
<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지>




더보기
더보기





top버튼
팝업창 닫기
글자크기 설정
팝업창 닫기
공유하기