"문고리 거래 합니다." 중고거래 플랫폼 당근을 자주 써보셨다면 한 번쯤 보셨을 문구입니다. 판매자가 현관 손잡이에 물건을 걸어두면 구매자가 편한 시간에 찾아가는 거래방식입니다. 코로나19 이후 비대면 문화가 퍼지면서 자리 잡은 방식인데요. 얼굴 마주칠 일도, 시간 맞출 일도 없어 선호되는 방법입니다.
그런데 이 편리함이 사기꾼에게는 좋은 무대가 되고 있습니다. 문고리 거래를 하자고 한 뒤 물품 금액만 받고 엉뚱한 주소를 알려주는 수법은 기존에도 있었습니다. 최근에는 여기에 AI까지 동원되고 있습니다. 판매자 행세를 하는 사기꾼이 구매자에게 입금을 받은 뒤 문고리에 걸었다며 AI로 합성한 사진을 보내 안심시키고 있습니다. AI로 합성한 사진은 감쪽같아 일반인들이 구분하기가 쉽지 않습니다. 진짜 문고리에 걸어둔 사진으로 오인해 사기에 휘말리고 있습니다.
또 안전한 거래를 위해 닉네임 인증을 원하는 구매자들에게는 AI로 자신의 닉네임이 적힌 이미지를 만들어 제시하기도 합니다. 다른 판매자가 올려놓은 사진도 무단 도용해 변형하거나 워터마크를 손쉽게 지워 사용하기도 합니다. 일의 생산성을 높여주고 있는 생성형 AI가 사기의 생산성도 높여주고 있는 형국입니다.
플랫폼도 나름의 자구책을 찾고 있습니다. 당근은 대형언어모델(LLM) 기반 분석 기술을 활용해 AI 생성 이미지가 의심되는 게시물을 사기 위험 신호 중 하나로 분류해 관리하고 있으며 이용자 신고 시스템과 운영 인력의 모니터링을 병행하고 있습니다. 번개장터는 AI 생성 이미지를 활용한 상품 등록을 제한하고 관련 게시물을 삭제하는 정책을 운영하고 있습니다.
그러나 이를 막는 속도보다 생성형 AI의 고도화 속도가 더욱 빨라 앞으로도 이를 활용한 범죄는 지속해서 늘어날 전망입니다. 이용자들은 SNS와 커뮤니티에 경험담을 공유하며 서로 경고를 보내고 있지만 새로운 인증법이 퍼질 때마다 이를 흉내 내는 AI도 함께 따라붙고 있습니다.