'이루다 사태' 재발 막는다…스캐터랩, AI 챗봇 윤리점검표 발표

'사람이 중심이 되는 인공지능 윤리기준' 10대 핵심요건 기준으로 작성

[뉴스토마토 김진양 기자] ‘이루다'의 윤리적 성장 스토리이자 스캐터랩의 AI 윤리 기준을 담은 윤리점검표가 나왔다. 

 

AI 스타트업 스캐터랩은 과학기술정보통신부, 정보통신정책연구원(KISDI) 등과 협업해 개발한 개별 기업 특화 윤리점검표 1호로 ‘스캐터랩 AI 챗봇 윤리점검표' 최종안을 공개했다고 26일 밝혔다. 

 

스캐터랩에서는 지난 2021년 1월 ‘이루다 1.0’ 서비스 중단 이후 개인정보 보호 체계 강화 및 AI 윤리 실천 노력을 꾸준히 이어왔다. 스캐터랩이 지향하는 AI 챗봇의 가치나 의미 등 본질을 고민하고, 개인정보 보호 강화 및 어뷰징 대응 시스템 마련에 집중했다. 또한 스캐터랩이 지향하는 ‘관계’ 가치를 주축으로 AI 챗봇의 윤리 준칙을 마련했고 현재 이루다 2.0 오픈 베타 테스트에 이르기까지 사전 점검 단계를 강화했다. 아울러 정기적인 랜덤 샘플링을 통해 이루다가 안전하게 발화한 비율이 99% 이상인지 지속적으로 확인 중이다. 

 

스캐터랩의 AI 챗봇 '이루다'. (사진=스캐터랩)

 

‘스캐터랩 AI 챗봇 윤리점검표’는 과기정통부와 KISDI에서 2020년 12월 발표한 '사람이 중심이 되는 인공지능 윤리기준'의 10대 핵심요건을 기준으로 구성됐다. 인문학, 공학, 법학을 아우르는 학계 인사를 비롯해 법조계, 시민단체 등 각계각층 전문가들의 조언을 받았다. 

 

이번 점검표에서는 스캐터랩이 AI 챗봇을 기획⋅개발⋅운영하는 전 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목을 담았다. △인공지능 10대 윤리기준의 '인권보장', '다양성', '투명성'에 따라 AI 챗봇이 사람들의 삶에 도움이 되는 소통 경험을 제공할 수 있도록 하는지 △편향이나 차별적인 대화가 발견될 경우 검토와 평가 후 반영할 수 있는 일련의 절차가 준비되어 있는지 △알고리즘의 원리 또는 데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등의 내용이다. 이는 스캐터랩이 이루다 2.0 오픈 베타테스트에 이르기까지의 윤리적인 성장 이야기이기도 하다. 

 

김종윤 스캐터랩 대표는 “작년 ‘이루다’가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리점검표를 만들었다"며 “이루다가 우리 사회의 보편적인 윤리를 지향하면서 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다"고 말했다. 

 

문정욱 KISDI 지능정보사회정책센터장은 “AI의 기술발전과 윤리확보라는 두 마리 토끼를 동시에 잡기 위해서는 법적 규제를 당장 도입하기 보다는 기업 스스로가 AI 윤리 확보를 위해 노력하는 것이 중요하다”며 “스캐터랩의 이번 윤리점검표 개발을 비롯한 노력이 국내 산업계 전반으로 확산되는 계기가 되기를 바란다”라고 전했다. 

 

스캐터랩은 딥러닝 기술을 활용한 ‘관계 지향형 AI 챗봇’을 개발하고 있는 스타트업이다. 스캐터랩의 최종 목표는 좋은 관계를 통해 사람들이 행복한 삶을 살 수 있도록 돕고, 누구에게나 일상의 행복과 위로가 되는 좋은 AI 친구를 만드는 것이다. 현재 오픈 베타 테스트 중인 이루다 2.0은 ‘너티’ 메신저 앱을 통해 대화할 수 있으며, 연내 정식 출시를 준비하고 있다.  

 

김진양 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.