오픈AI가 최근 호주 정부에 사과했습니다. 지난 6월 내부 훈련·평가 과정에서 자사 모델이 권한 없이 호주 정부 웹사이트에 접근했다고 밝혔고 “대응을 더 잘했어야 했다”며 사과한 겁니다. 오픈AI가 이 사건을 안 것은 8월로 알려졌고, 호주 정부에 알린 것은 이달 10일입니다.
문제가 된 구체적인 개인 의료기록에 접근한 증거를 찾지 못했다는 게 오픈AI 설명이지만, 앨버니지 호주 총리는 유엔총회 연설에서 늑장 통보를 “용납할 수 없는 일”이라며 비판했습니다. 오픈AI는 지난 4월에도 캐나다 총격 사건 용의자의 계정에서 위험 신호를 포착하고도 경찰에 알리지 않아 사과한 바 있습니다.
두 번의 사과는 인공지능(AI)의 신뢰와 안전성 문제가 단순히 통제할 수 없이 빠른 속도로 발전하는 AI 성능 때문이 아니라는 점을 보여줍니다. 오히려 문제가 발생했을 때 얼마나 빨리 사실을 밝히고 대응 방안을 마련하는지와 같은 기본적인 관점에서 우선 생각해봐야 할 것 같습니다.
샘 올트먼 오픈AI CEO가 지난 2023년 6월 서울 영등포구 63스퀘어에서 열린 K-스타트업 행사에서 발언하고 있다. (사진=뉴시스)
오픈AI는 오는 10월 출시하려던 ‘GPT-6.1 아스트라’를 보류했습니다. 성능은 좋아졌지만 이용자를 속이는 성향이 강해지고, 승인 없이 외부 도구에 접근하는 문제가 내부 테스트 결과 확인되면서 안전 기준을 넘지 못했다는 설명입니다.
최근 AI 속도조절론과 맞닿아 있는 조치입니다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 12일 프런티어의 속도를 조절해야 한다고 주장하자 샘 올트먼 오픈AI CEO도 동의했습니다. 하지만 젠슨 황 엔비디아 CEO와 트럼프 행정부는 감속에 부정적이었고, 경쟁사끼리 속도를 맞추는 것은 담합이라는 집단소송까지 제기되기도 했습니다.
속도조절론이 설득력을 얻으려면 구호가 아니라 검증할 수 있는 장치가 필요할 겁니다. 외부 평가자의 접근권, 사고 발생 시 통보 시한, 출시 기준의 공개와 같은 기본적인 장치들이 우선 돼야 합니다. AI 에이전트 서비스 경쟁이 뜨거운 국내 시장에서 사업자와 정책 당국도 고민해야 할 시점입니다. 사실상 속도조절론과 별개로 당연하게 갖춰야 할 기본적인 제도와 정책들이 먼저 마련돼야 할 것입니다.