'불쾌한 골짜기'라는 말이 있습니다. 로봇이 인간을 어설프게 닮을수록 오히려 불쾌함이 증가한다는 일본 로봇공학자 모리 마사히로의 주장입니다. 최근 사회관계망서비스(SNS)를 보다 보면, 이 개념이 현실이 된 듯한 장면들을 어렵지 않게 볼 수 있습니다. 바로 인공지능(AI)으로 만든 영상들입니다.
고양이나 햄스터 등 동물이나 캐릭터로 만든 영상 정도라면 그저 귀엽다고 느끼며 가볍게 넘길 수 있습니다. 그러나 문제는 연예인이나 유명인 등 실제 인물을 대상으로 한 AI 영상도 점점 늘고 있다는 것입니다. 어딘가 부자연스럽고 어색한 얼굴이 보이더라도, 정작 AI 생성물이라는 표시는 좀처럼 찾아보기 어렵습니다. 잠시 방심하면 가짜 영상에 속기 쉬운 이유입니다.
이제 이러한 기술은 단순한 재미를 넘어 범죄의 도구가 되고 있습니다. 최근 배우 이정재씨를 사칭한 '로맨스 스캠' 일당은 SNS를 통해 50대 여성에게 접근해 약 5억원을 가로챘습니다. 이들은 AI로 만든 이정재씨의 셀카와 운전면허증 이미지를 보내 피해자의 신뢰를 얻었습니다. 또 배우 이이경씨의 사생활 루머를 퍼뜨린 인물은, 그와 실제 대화한 것처럼 꾸민 메신저 화면에 성적 표현과 욕설을 담았습니다. 해당 내용은 결국 AI 합성으로 밝혀졌습니다.
이처럼 AI를 통한 사진 합성은 신원 사칭과 루머 조작, 금전 갈취 등 범죄 행각으로까지 번지고 있습니다. 기업들이 모니터링을 강화하고 있다고 하나, 플랫폼마다 기준이 달라 일관성이 부족합니다. 글로벌 사업자는 국가별 법 집행이 어렵다는 점도 문제입니다. 결국 지금으로서는 피해 신고 외에는 뚜렷한 대응책이 없으며, 이마저도 사후 조치에 불과합니다.
유럽연합(EU)은 2024년 3월 채택한 AI법(AI Act)을 통해 인공지능 시스템 제공자가 생성물에 AI로 만든 것임을 표시하도록 의무화했습니다. 그러나 워터마크는 회피·삭제가 가능하다는 점에서 여전히 한계가 있습니다. 우리나라도 딥페이크 방지법이 존재하기는 하지만 음란물 대상 제작·유포·시청·소지 등에 한정되고 딥페이크 탐지 모델의 정확도도 여전히 낮습니다. 'AI 생성물 허위정보 방지법(가칭)' 같은 새로운 제도가 생겨야 하는 것 아닌가 하는 생각도 듭니다.
최근에는 중국의 휴머노이드 로봇들이 군무를 추는 영상이 SNS에서 화제가 되기도 했습니다. 지금은 우스꽝스럽게 보일지 모르지만, 머지않아 3D 로봇이 인간의 외형과 움직임을 완벽히 흉내 낸다면 불쾌한 골짜기는 더 이상 과학적 개념이 아닌, 실제 감정이 될지도 모릅니다.
AI가 만드는 세상은 편리하면서도 '불편'합니다. 인간을 닮은 존재가 늘어날수록, 범죄를 저지르고 인간다움을 잃는 역설이 현실이 되고 있습니다. AI의 빠른 진화 속도에 맞춰 생성물 표시 의무, 플랫폼의 책임 강화 등 종합적인 제도 정비를 서둘러야 합니다. 그것이 우리가 다가오는 불쾌함의 골짜기를 건너는 방법일 것입니다.
9월 경기 용인시 에버랜드에서 열린 '스마일리 펌킨 퍼레이드'에서 국내 최초로 인공지능(AI) 사족보행 기능을 탑재한 로봇이 음악에 맞춰 퍼포먼스를 선보이고 있다. (사진=뉴시스)