[뉴스토마토 배한님 기자] 네이버가 디지털 성범죄 2차 피해를 최소화하기 위한 캠페인을 마련했다.
네이버는 24일 '디지털 성범죄 피해 예방을 위한 캠페인'을 진행하고, 관련 검색어 입력 시 2차 피해를 막기 위한 피해자 지원 정보를 우선 노출한다고 밝혔다. '일반인 몰래카메라', '일반인 불법 촬영물' 등 키워드를 검색하면 신고 절차 및 방법과 함께 피해 최소화를 위해 도움을 구할 수 있는 기관 정보 등이 맨 위에 나타난다.
네이버의 디지털 성범죄 확산 방지 위한 캠페인. 사진/네이버
네이버는 서비스 초기부터 '네이버 운영원칙'에서 불법게시물 제한과 관련한 내용을 명시한 후, 플랫폼상에서의 음란·불법 콘텐츠와 아동·청소년을 대상으로 한 음란물 유통 방지를 위해 노력했다. 특히, 지난 2018년부터는 이용자들이 이해하기 쉽도록 약관을 명확하게 변경하고 '사회적 약자 학대를 묘사한 게시물' 등 불법 게시물의 종류를 좀 더 구체적으로 명기한 바 있다.
네이버는 모니터링 전담팀과 신고센터를 운영하며 상시모니터링으로 적발된 게시물 및 신고된 게시물에 대한 조치를 진행하고 있다. 게시물·댓글 등 이용자가 업로드 하는 모든 영역에서 클릭 한 번으로 게시물 신고를 진행할 수 있다. 네이버는 해당 게시물을 업로드한 이용자의 '게시물 업로드 권한'을 제한하고, 수위에 따라서 '영구 이용 제한' 등 강징계를 취하기도 한다.
네이버는 자체 개발한 인공지능(AI)기반 음란 게시물 필터링 시스템 '엑스아이'를 통해, 게시물이 업로드되는 단계에서 선제적으로 음란 게시물을 차단한다. 이용자가 게시물을 업로드하면 게시물에 포함된 사진·동영상이 별도의 '엑스아이' 서버를 통해 실시간으로 검수되고, 음란물로 판별된 게시물은 즉시 삭제된다. 삭제된 음란물은 다시 엑스아이의 학습 데이터로 사용되면서 엑스아이는 자체적으로 음란 게시물 판별 정확도를 업그레이드한다. 네이버에 따르면 현재 엑스아이의 정확도는 약 99%에 달한다.
네이버는 지난 2015년부터 그룹형 SNS인 네이버 밴드에서도 음란 게시물에 대한 '원 스트라이크 아웃' 정책을 갖추고 있다. 특히, 아동·청소년음란물을 포함한 디지털 성범죄 관련 콘텐츠에 대해서는 게시물을 직접 업로드한 이용자가 아니더라도 음란물의 공유·매매를 요청한 이용자에 대해서도 서비스 사용 권한을 영구정지하고 있다.
배한님 기자 bhn@etomato.com
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지