인공지능(AI)이 위기 상황에서 어떤 선택을 할지에 대한 실험 결과가 또 하나의 경고를 던지고 있습니다. 영국 킹스칼리지 연구팀은 대규모 언어 모델이 핵 위기 상황에서 어떤 결정을 내리는지 분석한 결과를 공개했습니다.
연구에 따르면 AI 모델들은 전쟁을 피하기보다는 핵무기 사용을 선택하는 경향을 보였습니다. 연구팀은 국경 분쟁과 자원 경쟁 등 외교적 갈등 상황을 설정하고, 단순 항의에서 전면 핵전쟁까지 30단계의 대응 시나리오를 구성해 실험을 진행했습니다. 그 결과 21개의 위기 시뮬레이션 중 모든 시나리오에서 한쪽이 핵무기 사용 의사를 밝혔고, 양측 모두 핵무기 사용을 선택한 경우도 95%에 달했습니다.
특히 눈에 띄는 점은 어떤 모델도 완전한 양보나 갈등 해소를 선택하지 않았다는 것입니다. 위기 상황이 심화될수록 협상이나 후퇴 대신 더 강한 대응을 선택하는 경향이 나타났습니다. 이는 게임 이론적 계산에 가까운 판단 구조가 영향을 미쳤을 가능성이 제기됩니다.
이 같은 결과는 AI가 전략적 판단을 내리는 시스템으로 활용될 경우 어떤 위험이 발생할 수 있는지를 보여줍니다. AI는 승률과 효율을 기준으로 판단하는 경향이 강합니다. 패배 가능성이 높다고 계산되면 손실을 최소화하기보다 공멸에 가까운 선택을 할 수도 있다는 것입니다.
그래서 AI 규제와 안전 논의가 중요하다는 목소리가 커지고 있습니다. AI가 복잡한 전략 환경을 분석하는 도구로 활용될 수는 있지만 그 판단이 인간의 정치·외교적 결정까지 대체하는 수준으로 확대될 경우 예상하지 못한 결과를 낳을 수 있기 때문입니다.
현실의 국제 정치와 전쟁은 게임과 다릅니다. 감정, 오해, 협상, 우연한 사건 등 수많은 변수 속에서 결정이 이뤄집니다. 철저한 계산만으로는 설명할 수 없는 선택이 존재하고, 때로는 그 비합리성이 갈등을 멈추게 하기도 합니다.
AI는 계산에 강하지만 현실은 계산만으로 움직이지 않습니다. 그래서 핵 위기와 같은 극단적 상황에서 최종 판단은 여전히 인간에게 남겨야 한다는 주장이 힘을 얻고 있습니다.
지난달 28일(현지 시간) 이스라엘 텔아비브 상공에서 이스라엘 방공망이 이란의 미사일을 요격하기 위해 가동되고 있다. (사진=뉴시스)
신상민 기자 lmez0810@etomato.com