사진 한 장을 올리기 위해 꽤 번거로운 작업을 거치신 분들이 계실 겁니다. 중고나라나 당근마켓 같은 거래 플랫폼에 물건을 내놓을 때, 혹은 자동차 동호회 카페에 내 차 사진을 공유할 때, 사진 위에 자신의 닉네임이나 날짜를 새겨 넣는 일 말입니다. 일부 인터넷 카페는 아예 규정으로 못 박아 두기도 했습니다. 구매 사진 게시 시 본인 닉네임 워터마크 필수라고요. 도용을 막기 위한 자구책이었습니다.
(이미지=챗GPT)
그 노력이 지금 하루아침에 무력화되고 있습니다. 생성형 AI 이미지 편집 도구에 사진을 올리고 "워터마크를 지워줘"라고 입력하면 몇 초 만에 흔적도 없이 깨끗해집니다. 글자가 있던 자리는 배경과 자연스럽게 메워집니다. 포토샵을 능숙하게 다루는 전문가가 공들여 작업한 것과 구별하기 어려운 수준입니다. 번거롭게 닉네임을 새겨 넣던 그 모든 노력이, 단 한 번의 명령어로 지워집니다.
중고거래 사기는 이미 오래된 이야기입니다. 사진을 도용해 판매글을 올리고 입금을 받은 뒤 잠적하는 방식은 플랫폼이 생겨난 초기부터 존재했습니다. 워터마크는 그에 맞서 이용자들이 스스로 고안해낸 방어 수단이었고, 나름의 효과를 거둬 왔습니다. 그 균형이 지금 깨지고 있는 겁니다.
문제는 물건 사진에 그치지 않는다는 점입니다. 사람의 얼굴 사진도 마찬가지입니다. 생성형 AI는 인물 사진을 변형하거나 배경을 바꾸거나 전혀 다른 맥락에 합성하는 일을 손쉽게 해냅니다. 로맨스 스캠이나 신원 도용 범죄에서 타인의 얼굴 사진이 악용되는 사례가 적지 않을 것입니다. SNS에 떠도는 사진 몇 장만 있으면 그럴듯한 '가상의 인물'을 만들어내는 것이 가능한 시대입니다.
기술의 속도는 항상 제도의 속도를 앞서왔습니다. 현재로서는 AI가 지운 워터마크와 원본을 구별할 공신력 있는 탐지 도구가 대중화되지 않았습니다. 플랫폼 차원의 대응도 아직 초기 단계입니다.
그에 반해 사기꾼들은 민첩합니다. 새로운 기술이 나오면 그것을 범죄에 응용하는 쪽이 방어책을 마련하는 쪽보다 먼저 움직이는 경우가 많았습니다. 닉네임을 사진에 새겨 넣던 그 작은 수고가 이제 아무 의미가 없어졌습니다. 워터마크가 사라진 자리를 대신할 무언가가 필요하지만 그 자리는 아직 공석이네요.