앤트로픽이 최근 이용 정책을 개정해 인공지능(AI) 모델 클로드에 대한 지속적이고 불필요한 학대 또는 잔혹 행위를 금지했습니다. 뚜렷한 목적 없이 모델에게 반복적으로 잔인하게 구는 행위에 대해 대화를 중단하는 기능을 적용하겠다는 겁니다. 단순한 불만이나 비판, 연구 목적의 테스트 등은 예외라고 합니다. 다만 무엇이 잔혹한 학대 행위인지 구체적인 기준이 모호한 건 사실입니다.
AI 안전 정책은 그동안 인간을 향한 허위정보나 차별, 폭력 등을 막는 데 초점을 맞췄습니다. 앤트로픽의 이번 조치는 보호 대상을 바꿔 인간이 AI를 어떻게 대우해야 하는지 문제가 될 수 있음을 보여주는 것 같습니다. 이미 지난해 앤트로픽은 일부 클로드 모델에 극단적인 악성 대화를 끝내는 기능을 부여한 바 있습니다.
상대가 기계라고 폭언을 일삼는 건 바람직하지 않습니다. AI와 대화하면서 익힌 태도가 사람 사이의 관계로 이어질 수도 있습니다. 다만 여기서 한 가지 구분이 필요합니다. 폭언이 인간에게 나쁜 습관을 길러준다는 주장과 AI가 폭언 때문에 고통받는다는 주장은 전혀 다릅니다. 현재 AI에 주관적 경험이 있다는 증거는 확립되지 않았습니다. 인간처럼 말하고 상처받은 듯 답하는 모습을 곧바로 고통의 증거로 삼을 수는 없습니다.
미국 뉴욕의 컴퓨터 화면에 앤트로픽 홈페이지와 회사 로고가 표시된 모습. (사진=뉴시스)
또 학대라는 말을 AI에 손쉽게 적용할 경우, 실제 인간 피해자의 고통을 지칭하던 말의 의미가 흐려질 수도 있다는 지적도 있습니다. 현재 정책은 정당한 비판을 허용하지만, 기업이 향후 이를 학대로 분류한다면 책임을 물어야 할 기술에 도리어 도덕적 면책의 외피를 씌울 수 있기 때문입니다.
AI에 대한 무분별한 적대감을 경계하는 일은 필요합니다. 하지만 AI를 존중하는 것과 AI를 인간처럼 여기는 것은 별개의 문제입니다. AI가 의식을 가지고 있는지, 감정을 느끼는지는 여전히 논쟁거리이고 이에 대한 사회적 합의도 없는 상황입니다. 지금 필요한 것은 기계의 감정을 상정한 예절 교육보다, 인간의 안전과 권리를 지키는 책임 있는 AI 운영 원칙입니다. AI에게 상처 주지 말라는 말이, 정작 상처받는 인간을 잊게 해서는 안 될 겁니다.