생성형 인공지능(AI)에 몇 줄의 명령어만 입력하면 글과 이미지, 영상은 물론 코드까지 만들 수 있습니다. 과거에는 여러 사람과 상당한 시간이 필요했던 작업을 이제는 혼자서 짧은 시간 안에 해낼 수 있습니다.
콘텐츠를 만드는 문턱이 낮아졌지만 좋은 결과물만 늘어난 것은 아닙니다. 그럴듯하지만 내용은 부실한 글과 비슷한 이미지, 사실관계가 불분명한 영상이 대량으로 쏟아지고 있습니다. 이른바 'AI 슬롭'입니다.
최근 애플은 AI를 활용한 보안 취약점 제보가 급증하자 연구자 한 명이 제출할 수 있는 제보 건수를 제한했습니다. AI가 실제 오류를 찾아내기도 했지만, 존재하지 않거나 검증되지 않은 문제까지 쏟아지면서 이를 사람이 일일이 확인하기 어려워졌기 때문입니다.
유튜브도 대량 생산되거나 반복적인 콘텐츠에 대한 수익화를 제한하고 있습니다. 스냅챗도 AI 영상보다 사람이 직접 제작한 콘텐츠를 우선 추천하는 정책을 도입했습니다. 빅테크 기업들이 일종의 '생태계 정화 운동'에 나선 셈입니다.
학계도 예외가 아닙니다. AI가 만들어낸 잘못된 참고문헌이 논문에 포함되고, AI로 작성된 것으로 의심되는 논문을 다시 AI로 탐지하는 상황이 벌어지고 있습니다.
그러자 이번에는 AI 콘텐츠를 가려내는 기업이 새로운 투자처로 떠올랐습니다. AI 탐지 스타트업 '판그램'은 최근 900만달러, 우리 돈 약 130억원을 투자 받았습니다.
디지털 콘텐츠를 만들어내는 문턱이 사라지자 쓰레기 콘텐츠를 걸러내는 문턱이 새롭게 생성되는 아이러니한 상황입니다.
AI로 콘텐츠를 생산하는 속도는 빨라졌지만 사실 사람들이 콘텐츠를 소비하는 시간은 여전히 하루 24시간입니다. 생산성이 열 배 높아졌다고 소비와 관심까지 열 배 늘어나는 것은 아닙니다. 오히려 '옥석'을 가려내기 위한 시간이 더 늘어가고 있습니다.
한쪽에서 아낀 시간은 다른 쪽의 검증 노동으로 넘어갑니다. 이용자는 편리함을 얻는 것 같지만, 부실한 정보를 판별하는 데 시간을 쓰면서 결국은 비슷한 수준의 시간을 쓰게 됩니다.
그 과정은 하나의 시장이 됩니다. AI로 저품질 콘텐츠를 대량 생산하고, 이를 걸러내기 위해 탐지 AI를 도입합니다. 제작자가 탐지를 피할 방법을 찾으면 플랫폼은 더 정교한 AI를 구매합니다.
쓰레기를 만드는 데도 AI를 쓰고, 그 쓰레기를 치우는 데도 AI를 쓰는 구조입니다.
지금 AI 산업이 팔고 있는 것은 우리의 시간일까요, 아니면 끝없이 또 다른 AI가 필요해지는 구조일까요.