[뉴스토마토 배한님 기자] 지난해 말부터 네이버와 다음카카오는 플랫폼 기업의 사회적 책임을 위해 뉴스와 검색 서비스 전면 개편에 나섰다. 두 기업은 연예 뉴스 댓글과 인물 키워드 검색어를 잠정 폐지하고 인공지능(AI) 기술 기반 악플 차단 클린봇을 연구하는 등 건전한 플랫폼 환경을 만들기 위해 노력하고 있다. 이 같은 흐름에 최근 페이스북과 인스타그램도 적극 합류하는 분위기다.
페이스북은 신고 없이도 사전에 혐오 발언을 감지해 선제 대응하고 있다. 페이스북이 지난 12일 발표한 5차 커뮤니티 규정 집행 보고서에 따르면 지난 2019년 10월부터 2020년 3월까지 삭제 조치한 콘텐츠의 89%는 이용자 신고 이전에 감지한 것이다. 이는 지난 2018년 제1차 커뮤니티 규정 집행 보고서에서 발표된 사전 감지율인 24%보다 크게 증가했다.
페이스북 관계자는 "혐오 발언에 대한 사전 감지율은 지난 2개 분기에 비해 8%포인트(p), 일 년 전보다는 거의 20%p 증가했다"며 "혐오 발언에 대한 선제적 감지 기술을 적용할 수 있는 언어를 지속적으로 확장해나가고 있다"고 설명했다.
사이버 불링을 방지하기 위해 도입된 인스타그램의 댓글 일괄 관리 기능. 사진/인스타그램
인스타그램은 지난 18일 이용자 개인 권한을 강화해 사이버 불링을 방지할 수 있는 안전 기능을 도입했다. 이번 조치로 인스타그램 사용자는 피드에 올린 사진이나 동영상에 부정적인 댓글이 갑자기 많이 게시될 때 이를 최대 25개까지 일괄 삭제할 수 있게 됐다. 아울러 자신을 게시글에 태그하거나 댓글 및 캡션에서 언급할 수 있는 계정을 제한할 수 있게 했다. 이는 원치 않은 상대가 자신의 계정을 언급하면서 괴롭히는 상황을 방지하기 위해서다.
인스타그램은 자살 및 자해 콘텐츠를 빠르게 파악할 수 있도록 텍스트와 이미지 매칭 기술을 향상시켰다. 이 기술로 규제 조치가 취해진 관련 콘텐츠 양이 제4차 보고서(2018년 4월~2019년 9월)에 비해 40% 늘었고, 신고 전 관련 콘텐츠 사전 감지율은 12%p 증가했다.
인스타그램 관계자는 "이번에 새롭게 추가된 두 가지 기능을 통해, 보다 많은 사람들이 안전한 환경에서 자신을 있는 그대로 표현할 수 있길 바란다"고 했다.
배한님 기자 bhn@etomato.com
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지