요즘 온라인에서 '테토녀', '에겐남'이라는 말이 회자되고 있습니다. 테스토스테론(남성호르몬)과 에스트로겐(여성호르몬)에서 따온 이 말은 사람의 연애 성향이나 사회적 태도를 성호르몬 기반으로 분류하는 일종의 인터넷 밈인데요.
그런데 이 단어의 뜻을 모른다는 지인이 챗GPT에 이를 물어봤더니 "테슬라를 토스로 결제할 수 있는 재력녀"라는 전혀 엉뚱한 답변이 돌아왔다고 합니다. 누가 봐도 말이 안 되는데 이상하리만치 그럴듯해 보여서 더 당황스러웠다는 반응이었죠. 이처럼 설득력 있어 보이지만 실제로는 틀린 정보를 생성하는 인공지능(AI)의 문제를 업계에서는 '환각'이라 부릅니다.
최근 영국 글래스고우대 연구진은 이 용어 자체가 적절하지 않다고 지적했습니다. AI는 인간처럼 착각을 일으키는 것이 아니라 애초에 진실 여부에 관심이 없는 존재라는 것인데요. 그래서 환각보다는 차라리 '헛소리'라고 부르는 게 과학적으로 더 정확한 표현이라는 주장입니다.
이전에도 AI는 '세종대왕이 맥북을 던진 사건' 같은 질문에도 마치 실제 있었던 역사인 양 그럴듯한 '가짜 역사'를 만들어냈습니다. 이는 AI의 거짓말이라기보다 아예 진실 여부에 무관심한 형식적 응답일 뿐이라는 거죠.
문제는 이런 헛소리를 환각이라는 기술적 결함으로 포장하면서 잘못된 해결책을 양산하고 있다는 점인데요. 헛소리 문제는 해결책을 제시해 봤자 효과가 없을 수 있으며 전문가들의 잘못된 노력으로 이어질 수 있습니다.
여기서 우리가 해야 할 일은 AI의 한계를 정확히 인식하고 그 특성을 이해하는 선에서 적절히 활용하는 것입니다. AI는 강력한 도구이지만 진실에 대해서는 무관심한 존재라는 점을 기억하고 그것을 평가하고 해석할 수 있는 인간만의 균형을 지녀야 할 것입니다. 테토녀가 재력녀가 아니듯, AI가 그럴듯하게 말한다고 해서 다 맞는 건 아니니까요.