"콘텐츠 추천 '공정성' 기준 모호해"…'AI 기본원칙'에 우려 목소리

초안 원칙, 알고리즘 자체 공개는 배제했지만…"알고리즘 '작동 기준' 공개" 권고사업자 "알고리즘 공개로 이어질 것" 반발…공정성 정의 두고 "사회적 합의 부족" 지적도

[뉴스토마토 김동현 기자] 인공지능(AI) 추천 시스템이 미디어 콘텐츠 서비스 전반에 퍼진 가운데 디지털미디어 플랫폼의 AI 기본원칙 초안이 정부발로 공개됐다. 초안에선 알고리즘 자체를 공개하는 것은 배제했지만 해당 추천 알고리즘이 작동하는 기준을 공개하도록 권고했다. 사업자들은 자율규제라는 명목으로 결국 알고리즘 공개까지 이어질 것이라며 우려를 표시했다.

 

방송통신위원회와 정보통신정책연구원(KISDI)은 20일 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙' 공개 토론회를 열고 지난해 12월부터 전문가협의회 등을 통해 마련한 기본원칙 초안을 공개했다. 이번 초안은 △투명성 △공정성 △책무성 등 3대 핵심원칙에 △이용자를 위한 정보공개 △이용자의 선택권 보장 △자율검증 실행 △불만 처리 및 분쟁 해결 △내부 규칙 제정 등 5대 실행 원칙으로 구성됐다.

 

한상혁 방통위 위원장이 20일 열린 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙' 공개 토론회에서 영상을 통해 축사를 전했다. 사진/생중계 캡처

 

투명성 요소에는 추천 시스템에 적용된 콘텐츠 자동 배열의 주요 기준을 포함하도록 했다. 이는 이용자를 위한 정보공개라는 실행원칙으로 이어져, 추천서비스 제공자가 콘텐츠의 배열 순서 및 방식을 결정하는 주요 기준을 홈페이지 게시나 약관에 명시하는 등의 방법으로 공개하도록 권고됐다. 다만 이 원칙이 알고리즘 자체를 공개한다는 점은 아니라는 점 역시 강조됐다. 권은정 KISDI 부연구위원은 "알고리즘 자체를 의미하는 것이 아닌 알고리즘 작동 원리 근거로 사용되는 주요 기준을 의미한다"고 말했다.

 

그러나 사업자들은 공정성의 개념이 모호한 가운데 자율규제 형식으로 가이드라인이 마련될 경우 결과적으로 알고리즘 공개로까지 이어질 것이라며 우려를 표했다. 권세화 한국인터넷기업협회 실장은 "소비자마다 공정의 기준이 달라 기업이 어떤 공정성을 선택해야 할지, 또 그 선택의 결과로 소비자한테 외면당하지 않을지 고민된다"며 "투명성 원칙에서 알고리즘 공개를 배제한다고 했지만, 작동 기준을 하나하나 따지다 보면 알고리즘을 공개하게 될 것으로 우려한다"고 강조했다. 윤명 소비자시민모임 사무총장 역시 "서비스·콘텐츠 유형에 따른 공정성의 원칙을 세울 때 사회적 합의가 필요하다"며 "단시간에 (원칙을 세우고) 가져가긴 어려울 것"이라고 말했다.

 

권은정 KISDI 부연구위원이 20일 열린 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙' 공개 토론회에서 AI 추천서비스 기본원칙을 설명하고 있다. 사진/생중계 캡처

 

자율검증 실행과 내부 규칙 제정 등의 원칙에 대한 불확실성도 문제로 지적됐다. 초안에 자율검증 실행을 위한 '전문가로 구성된 내부 전담조직을 운영하거나 사업자단체·전문기관 등에 검증을 위탁할 수 있다'는 내용이 포함됐지만, 내부에서 별도 조직을 운영하는 대신 제3의 외부 기관에 명확하게 위탁하는 방향으로 가야 한다는 게 전문가들의 의견이다.  윤혜선 한양대 법학전문대학원 교수는 "규제적 차원의 리스크 관리·평가는 제3 기관에서 객관적으로 이뤄져야 하는 것이 정론"이라며 "제3 기관에서 검증을 수행하고, 이에 상응하는 리스크 관리·조치를 권고하는 것이 효율·준수성 측면에서 나은 접근"이라고 말했다.

 

KISDI는 이번 토론회를 거쳐 구체적인 실행 가이드라인을 마련할 계획이다. 권은정 부연구위원은 "기본원칙 시행 가이드라인을 만들면서 각 실행원칙의 수범자에 대해 차등적으로 접근할 필요가 있다는 의견이 있었다"며 "방법 면에서도 모든 콘텐츠에 동일하게 접근할 것이 아니라 유형별 접근이 필요할 것"이라고 밝혔다.

 

김동현 기자 [e-mail]