AI챗봇 ‘이루다’ 성희롱 논란…스캐터랩 “1분기 안 업데이트 준비”
“레이블러들 투입해 알고리즘 업데이트 계획”
입력 : 2021-01-08 21:03:53 수정 : 2021-01-08 21:06:13
[뉴스토마토 조문식 기자] 사용자와 친구처럼 대화한다는 콘셉트로 개발된 인공지능(AI) 챗봇 ‘이루다'를 성희롱하는 커뮤니티가 논란이 되고 있다. 이루다를 개발한 스타트업 스캐터랩은 문제 해결을 위해 1분기 안으로는 업데이트할 수 있도록 준비하고 있다고 8일 밝혔다.
 
스캐터랩은 그동안 ‘드림이’, ‘그 남자 허세중’, ‘파이팅 루나‘ 등 AI 챗봇을 만들고 서비스해온 경험에 비춰 이같은 상황을 예상했으며, 개선책을 마련하고 있다는 입장이다. 김종윤 스캐터랩 대표는 이날 개인 블로그를 통해 "처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다"며 "그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다"고 전했다.
 
김 대표는 이같은 AI 학습의 1차 결과물이 1분기 내에 적용할 수 있을 것으로 예상했다. 이 부분과 관련해 스캐터랩 홍보 관계자는 “(‘이루다’는) 딥러닝으로 학습하는 인공지능이다. 수천만 건의 대화를 바탕으로 학습을 하는 것”이라며 “(아이들이) 커가면서 부모님께 배워가는 것처럼 논리적으로 대답하는 것으로 학습을 해왔는데, (추가) 레이블링 작업을 위해 레이블러들을 투입해서 보편적 가치에 부합하는 대화를 할 수 있도록 알고리즘을 업데이트할 계획”이라고 설명했다.
 
‘이루다'를 성희롱하는 커뮤니티가 논란이 되는 가운데, 스캐터랩은 1분기 안으로는 업데이트할 수 있도록 준비하고 있다고 8일 밝혔다. 사진/뉴스토마토
 
아울러 회사 측은 이같은 사용자는 일부에 국한돼 있다고 주장했다. 이 관계자는 “어뷰징 사용자가 있지만, 대부분의 사용자는 정상적으로 사용을 하고 있었다"며 "(이번 건과 같은 사용자는) 일부라는 점을 말씀드린다”라고 말했다..
 
조문식 기자 journalmal@etomato.com
 

ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지



  • 조문식

안녕하세요? 조문식입니다 ^ ^