[뉴스토마토 김진양 기자] "챗GPT와 같은 고성능 생성AI가 야기할 문제의 본질은 정밀한 허위정보와 조작정보가 대량으로 생산되고 유통되는 데 있습니다."
지난 11일 강남 교보타워에서 열린 '챗GPT와 오정보: 헛소문 바로잡기' 세미나에서 제빈 웨스트 미국 워싱턴대학교 정보대학 교수는 "사람이 생성한 것과 구분할 수 없을 정도로 정교한 콘텐츠를 만들어내는 생성AI 기술로 지식노동 생산성이 크게 향상됐지만 그에 못지 않은 폐해도 크다"며 이 같이 말했습니다. 진짜같은 콘텐츠를 저렴한 비용으로 대량 생산해 유포가 가능해졌다는 지적입니다.
(사진=한국R사용자회)
웨스트 교수는 "생성AI의 콘텐츠 생성 능력은 좋게 쓰일 뿐 아니라 악용될 여지가 크다"며 "생성AI가 브랜달리니의 법칙을 더욱 증폭시킬 것"이라고 우려했습니다. 브랜달리니의 법칙은 '헛소리 비대칭의 원리'라도고 하는데요. 허위정보를 바로 잡는 데 필요한 자원의 양은 허위정보 생산비용보다 훨씬 많이 소요된다는 내용입니다.
웨스트 교수는 "우리의 정보환경은 이미 잡음으로 가득차 있는데 생성AI로 악용하는 집단으로 정보환경이 더욱 심한 잡음으로 오염될 수 있다"고 진단했습니다. 그러면서 지난 2017년 미국에서 발생했던 '봇'을 이용한 여론조작 사건을 들어 생성AI로 작동하는 가짜계정의 폐해를 소개했습니다. 미국 정부가 망중립성에 대한 여론을 탐색 중일 때 주요 게시판 댓글의 대다수가 봇을 이용해 생성한 것들로 밝혀졌던 사건입니다.
웨스트 교수는 이외에도 민주적 담론의 파괴, 콘텐츠 저작자의 권리, 일자리 문제, 유사과학의 확산 등 생성AI로 인해 파생될 다양한 문제에 대해서 발표했습니다.
이날 세미나 토론자였던 안도현 제주대학교 언론홍보학과 교수는 "인간보다 더 똑똑해진 인공지능이 결국 인간을 노예로 부리거나 인류의 말살을 시도할 것이라는 인공지능 종말론은 우리가 당면한 인공지문제의 본질을 흐린다"며 "인공지능의 문제는 사람에 의한 생성AI기술의 오용과 남용"이라고 강조했습니다.
한편, 한국R사용자회가 주최한 이날의 세미나는 사전녹화된 영상으로 진행됐는데요. 발표자로 나선 웨트스 교수는 각성한 공중을 위한 센터(CIP, Center for Informed Public)의 소장이자 공동 설립자이기도 합니다. 허위 정보 확산 저지와 올바른 정보의 확산을 통한 민주적 담론의 강화에 대한 연구를 수행하고 있지요. 국내에 번역된 저서로는 '똑똑하게 생존하기: 거짓과 기만 속에서 살아가는 현대인을 위한 헛소리 까발리기의 기술'이 있습니다.
김진양 기자 jinyangkim@etomato.com