전체 기자
닫기
배한님

bhn@etomato.com

포털·게임 분야에서 읽기 쉬운 기사를 쓰겠습니다.
이루다 개발사 스캐터랩 "개인 특정할 수 있는 정보 유출되지 않았다"

AI 챗봇 '이루다' 혐오·차별 대화 사례 및 개인정보 침해 관련 입장 밝혀

2021-01-11 21:43

조회수 : 3,026

크게 작게
URL 프린트 페이스북
[뉴스토마토 배한님 기자] 인공지능(AI) 스타트업 스캐터랩이 11일 자사의 AI 챗봇 서비스 '이루다'의 사용자 개인정보 무단 활용 논란에 대해 사과하면서도 "데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 밝혔다. 
 
 
이루다 관련 논쟁은 일부 사용자의 이루다 성희롱 논란으로 시작돼 장애인·동성애자 혐오·차별적인 발언, 자사의 다른 서비스인 '연애의 과학' 사용자의 개인정보 침해 문제까지 확대된 상태다. 
 
스캐터랩 측은 이루다 개발 과정에서 '연애의 과학' 사용자의 카카오톡 대화 100억여 건을 활용해 개인정보침해가 발생한 것에 대해 "사전에 동의가 이루어진 개인정보 취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다"고 했다. 
 
이름이나 주소 등 개인정보 유출 문제에 대해서는 "데이터 활용 시 사용자의 닉네임·이름·이메일 등 구체적인 개인정보는 이미 제거돼있다"며 "전화번호 및 주소 등을 포함한 모든 숫자 정보·이메일에 포함될 수 있는 영어 등을 삭제했다"고 설명했다. 
 
이루다 대화에서 누군가의 실명이나 주소·상호명 등이 등장한 것에 대해 스캐터랩 관계자는 "이름은 비식별화를 거쳐 A면 B 등으로 바뀌었기 때문에 사용자가 자신의 이름을 발견했다면 우연의 일치일 것"이라며 "주소나 상호명도 중간에 특수 기호가 들어가는 경우 걸러지지 못했을 수 있다"고 말했다. 
 
이루다의 혐오와 차별 발언에 대해서도 입장도 있었다. 스캐터랩 측은  "특정 집단을 비하하는 호칭이나 혐오 표현의 경우 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"며 "기존에 알려진 사례들은 이미 개선 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 지속적으로 개선 중"이라고 했다. 
 
회사 측은 이어 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"며 "저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 덧붙였다.  
 
이루다 서비스는 오는 12일부터 일시 중단된다. 스캐터랩은 "일정 시간 서비스 개선 기간을 가져 더 나은 이루다로 찾아뵙고자 한다"고 전했다. 
 
스캐터랩은 관련 문제를 해결하기 위해 '편향 대화 검출 모델'을 만들 계획을 밝히며 "한국어 AI 대화 연구 및 AI 윤리 발전에 유용하게 쓰일 수 있으면 좋겠다"고 강조했다. 
 
 
배한님 기자 bhn@etomato.com
 
  • 배한님

포털·게임 분야에서 읽기 쉬운 기사를 쓰겠습니다.

  • 뉴스카페
  • email
  • facebook