판교 IT기업은 지금 '욕설'과 전쟁중
AI 활용해 변형 욕설까지 잡아내…네이버 '클린봇' 도입·넥슨 '초코' 적용
입력 : 2019-07-22 14:48:46 수정 : 2019-07-22 14:48:46
[뉴스토마토 김동현 기자] 포털·게임 등 정보기술(IT) 기업들이 회사 서비스에서 발견되는 이용자 '욕설' 정보를 걸러내기 위해 인공지능(AI)을 적극적으로 도입하고 있다. AI는 기존 욕설 DB를 교묘히 빠져나가는 '변형 욕설'까지 학습해 차단하는 역할을 한다.
 
22일 IT업계에 따르면 네이버는 최근 욕설·비방 댓글을 자동으로 숨김 처리하는 '클린봇'을 확대하고 있다. 클린봇은 AI 기술을 이용해 불쾌한 욕설이 포함된 댓글을 감지해 자동으로 숨기는 기능이다. 지난 4월 스포츠 뉴스에 적용한 이후 지난달 말 네이버웹툰에도 이 기능을 도입했다. 네이버 관계자는 "현재 클린봇 기능은 테스트 단계로 적용 서비스 영역을 넓혀갈 것"이라고 말했다. 카카오도 욕설 자동 치환 기능을 적용해 비속어 표현을 음표로 자동 변환한다.
 
네이버가 네이버웹툰과 스포츠 뉴스 섹션에 적용한 욕설·비방 댓글 자동 숨김 처리 기능인 '클린봇'. 사진/네이버
 
포털 사업자들이 AI를 활용한 필터링 기능을 강화하는 이유는 기존 DB가 신종 욕설을 즉각적으로 담지 못하기 때문이다. 네이버와 카카오는 이미 한국인터넷자율정책기구(KISO)가 정한 욕설 DB를 기준으로 욕설·불법 조장 댓글을 걸러내고 있다. 이용자 신고도 독려하는 중이다. 그러나 '년'과 같이 일상·일반적 의미뿐 아니라 욕설·비하 의도로 쓰이는 용어까지 묶어서 처리하는 데는 한계가 있다. 또한 단어를 교묘히 바꿔 욕설 표현 규제를 피해가는 경우도 있다. 업계 관계자는 "한글 언어 특성상 단어를 쉽게 변형할 수 있어 욕설 DB에 포함되지 않는 경우가 있다"며 "기술적으로 걸러내기 어려운 변형 욕설에 대응하기 위해 AI를 도입한 것"이라고 말했다.
 
게임업계도 이용자 욕설·비속어 채팅 문제를 해결하기 위해 AI 기술을 고도화하고 있다. 지난 2017년 설립된 넥슨 인텔리전스랩스는 욕설탐지 프로그램 '초코'를 개발했다. 초코는 이용자 커뮤니케이션 방식을 학습해 이미지를 기반으로 3초에 100만건의 욕설을 탐지해 제거한다. 단어, 문법, 어간 등을 규칙 처리하는 자연어처리(NLP) 방식에서 나아가 신종 욕설을 기계학습(머신러닝) 한다. 예를 들어 '이런 조카신발'이라는 말은 78%의 확률로 욕설로 구분한다.
 
넥슨의 욕설탐지 프로그램 '초코'의 작동 원리를 빛으로 표현한 넥슨 '게임을 게임하다' 전시회 작품. 사진/넥슨
 
김동현 기자 esc@etomato.com
 

ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지

  • 김동현

게임·인터넷 속 세상을 깊이 있게 전해드립니다.

  • 뉴스카페
  • email
  • facebook