과기정통부, AI윤리 확보에 스타트업과 머리 맞대

'AskUp' 운영 업스테이지, 릴레이 현장방문 첫 기업 낙점"AI 기술 발전 위해 윤리·신뢰성 확보 필수"

[뉴스토마토 김진양 기자] 과학기술정보통신부가 인공지능(AI) 윤리·신뢰성 강화를 위해 국내 대표 AI 스타트업들과 머리를 맞댑니다. 

 

과기정통부는 지난 15일 'AI 윤리·신뢰성 확산을 위한 AI 대표기업 릴레이 방문' 일환으로 경기도 용인 소재 업스테이지 연구소를 찾았습니다. 현장 방문의 첫 기업으로 낙점된 업스테이지는 카카오톡 메신저를 활용한 AI 챗봇 'AskUp(아숙업)'을 출시, 120만여명의 이용자를 확보한 바 있습니다. 

 

이날 행사에는 박윤규 과기정통부 제2차관, 최동원 과기정통부 인공지능기반정책과장, 이강해 한국정보통신기술협회 단장, 이활석 업스테이지 최고기술책임자(CTO), 한지윤 데이터팀 리더, 손해인 마케팅팀 리더 등이 참석했습니다. 

 

박윤규 과기정통부 제2차관이 지난 15일 업스테이지 연구소를 찾아 인공지능(AI) 윤리·신뢰성 강화 방안을 논의했다. (사진=업스테이지)

 

이 CTO는 업스테이지 대표 AI 솔루션 '다큐먼트 AI팩'과 아숙업을 활용해 추천·검색 서비스를 접목한 'AskUp Seargest'를 소개하고 서비스를 시연했습니다. 

 

AskUp Seargest는 검색과 추천 기술(Search+Suggest)을 이용해 초개인화 된 추천을 채팅의 형태로 제공할 수 있는 솔루션입니다. 업스테이지는 AI팩을 운용하며 확보한 검색, 추천기술과 아숙업을 운영하며 쌓은 프롬프트 엔지니어링 및 파인튜닝 노하루를 통해 초개인화된 최신 정보를 고객에게 제공, 원하는 정보를 가장 편리한 인터페이스로 보여주는 기술을 개발했습니다. 

 

서비스 시연을 마친 후 참석자들은 AI 윤리·신뢰성 확보 경험을 공유하고 애로사항을 건의했습니다. 이 CTO는 다큐먼트 AI팩 적용 시 클라우드 컴퓨팅 환경과 AI 모델 고도화를 위한 대향의 데이터 학습 과정에서 발생가능한 개인의 민감 정보 유출 방지와 AI서비스 윤리 확보를 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했습니다. 

 

지난 3월 출시 후 약 3개월 간 아숙업을 운영하면서 겪었던 AI 윤리·신뢰성 확보 노력도 나눴습니다. 업스테이지는 아숙업 운영에 있어 생성AI의 단점으로 지적받던 '할루시네이션(환각) 현상'을 완화하기 위해 '? 검색'을 도입해 사실 기반의 정보를 제공하고 있는데요. 이 외에도 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등의 노력도 기울이고 있습니다. 

 

박 차관은 "AI가 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제조건이 되고 있다"며 "국내 기업이 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장의 애로사항과 지원 필요사항을 경청하겠다"고 약속했습니다.  

 

김진양 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.