AI의 사용이 폭발적으로 늘어나면서 이제는 일상 대화부터 업무 결정, 건강 관련 정보까지 AI에 묻고 답을 얻는 시대가 됐습니다. 그러나 문제는 점점 더 많은 이들이 AI의 조언을 그대로 받아들이며 맹신하는 경향을 보이고 있다는 점입니다.
최근 일부 AI 기반 검색 서비스와 블로그에서는 독버섯을 식용 버섯으로 잘못 소개하는 사례가 발견됐습니다. 사실과 전혀 다른 정보를 AI가 생성해낸 결과입니다. 이를 맹신할 경우 단순한 불편을 넘어 생명을 위협하는 사고로도 이어질 수 있습니다.
AI 분야에서는 이런 오류를 환각이라고 불립니다. 중요한 점은 환각이 단순한 버그가 아니라 현재의 언어 모델 구조상 필연적으로 발생할 수밖에 없는 현상이라는 것입니다. 아무리 정교한 모델이라고 하더라도 통계적 예측을 기반으로 한 언어 생성 과정에서 틀린 정보도 그럴듯하게 내놓게 됩니다.
결국 중요한 건 AI의 신뢰도를 얼마나 높이고 동시에 사용자가 그 한계를 얼마나 인식하느냐입니다. 그리고 정보의 진위를 가려내는 마지막 책임은 여전히 인간에게 있다는 점입니다. 지금 우리는 새로운 기술을 신뢰할 것인가 말 것인가의 문제가 아니라 인터넷의 정보를 어디까지 믿고 어디서부터 의심해야 하는지, 즉 맹신의 출발점이 어딘지 질문해야 하는 상황에 처해 있습니다.
최근 일부 AI 기반 검색 서비스와 블로그에서는 독버섯을 식용 버섯으로 잘못 소개하는 사례가 발견됐다. (이미지=뉴시스)