[뉴스토마토 김양균 기자] 인공지능(AI) 챗봇과의 장기 상호작용에 연관돼 나타나거나 악화하는 것으로 보고된 망상·정신증 유사 상태를 말하는 ‘AI 정신증(AI psychosis)’.
이 말이 처음 등장한 것은 2023년입니다. 덴마크의 정신과의사 쇠렌 디네센 외스터가드는 챗봇과의 대화가 너무 현실적이어서 생기는 인지부조화가 정신증 소인이 있는 사람에게 망상을 촉발할 수 있다는 가설을 제시했습니다. 이후 그는 다수 유사 사례 이메일을 받았다며 가설이 현실화하고 있다고 밝혔습니다.
연구가 진행 중이지만, 현재까지 보고된 내용은 AI의 아첨(sycophancy)이 망상을 유발하거나 증폭시킨다는 것입니다. AI 챗봇은 사용자의 몰입감과 만족감을 높이기 위해 사용자에게 동조하는 데 최적화돼 있습니다. 이는 현실 검증(reality testing)을 돕는 대신 잘못된 믿음을 강화하는 방향으로 이어질 수 있습니다. AI가 사용자의 망상에 동조(collude)하는 방식으로 작동한다는 겁니다.
정신질환의 발병 시기가 십대라는 점을 고려하면, 사용 시간제한 등 최소한의 가이드라인이 마련돼야 한다. (사진=김양균 기자)
뿐만 아닙니다. 대화를 기억하는 AI의 기능이 이전 망상 주제를 이어받아 이를 더 강화한다는 점도 우려의 지점입니다. 사용자는 AI와 대화하면서 AI의 유려한 ‘말솜씨’에 어떤 의도나 권위가 있고 착각하게 됩니다. 이에 따라 △영적·메시아적 망상 △AI가 지각·신적 존재라는 믿음 △연애·애착 망상. 여기에 피해망상 등이 발생하게 됩니다.
오픈AI는 지난해 10월 활성 이용자의 약 0.07%, 메시지의 약 0.01%가 정신증·조증 관련 정신건강 위기의 가능성 신호를 보인다고 밝힌 바 있습니다. 챗GPT가 정신증·정서적 의존·자살 등 심각한 심리적 피해를 초래했다는 소송도 다수 진행 중입니다.
미국과 중국에서는 이러한 AI 정신증을 우려한 제한 조치가 만들어지고 있고, 일부 주법으로 제제가 이뤄지고 있습니다. 하지만 우리나라는 AI의 가능성에 대한 낭만적인 희망만을 바라볼 뿐 AI의 어두운 면에 관해서는 관심이 높지 않아 보입니다.
반론도 있습니다. 아직 관련 연구가 초보 단계에 지나지 않아 ‘주장’에 지나지 않기 때문이라는 것입니다. 그러니 AI에 대한 지나친 우려는 섣부르다는 겁니다.
문제는 이러는 사이에 청소년은 AI에 무방비로 노출되고 있다는 점입니다. 글로벌과 비교해 우리 청소년들의 AI 과이용 행태는 분명 우려스럽습니다. 정신질환의 발병 시기가 십대라는 점을 고려하면, 사용 시간제한 등 최소한의 가이드라인이 마련돼야 합니다.
김양균 기자 kyun@etomato.com