인공지능(AI)을 둘러싼 논의가 극단으로 치닫는 분위기입니다. 불과 얼마 전까지 AI 업계의 화두가 누가 더 강력한 모델을 먼저 내놓느냐였다면, 이제 AI 개발 속도를 늦춰야 한다는 주장이 나옵니다. 현재 상태로 AI 개발이 계속되면 인류 생존이 위협받을 수 있다는 얘기까지 논쟁거리가 되고 있습니다.
최근 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 AI 개발이 안전장치보다 너무 빠르게 진행되고 있다며 속도 조절을 공개적으로 촉구했습니다. 오픈AI의 샘 올트먼 CEO도 안전성과 국제적 공조의 필요성을 강조하고 있습니다. 일부 연구자들은 더 나아가 통제되지 않은 AI가 인류의 존속 자체를 위협할 수 있다고 경고했습니다.
샘 올트먼 오픈AI 최고경영자(CEO)가 지난 6월 미국 미시간주 살린타운십에서 열린 데이터센터 착공식에서 발언하고 있다. (사진=뉴시스)
이른바 '인류멸망론'을 어느 정도까지 심각하게 생각해야 할지 아직 판단이 서지 않습니다. AI가 인간보다 훨씬 뛰어난 지능을 갖게 되고, 스스로 목표를 설정하거나 인간의 통제를 벗어날 것이라는 전망은 아직 검증된 미래는 아닙니다. 인간이 통제를 상실하는 극단적인 시나리오의 가능성과 시점에 대해서는 전문가들 사이에서도 견해가 크게 엇갈린다고 합니다. 물론 가능성이 불확실하다는 것과 위험이 없다는 것은 전혀 다른 이야기입니다.
'속도조절론'이 현실적으로 가능할 수 있을지도 역시 간단하지 않은 문제 같습니다. AI는 경제와 산업의 경쟁력을 좌우하는 기술이 됐고, 미국과 중국을 비롯한 국가 간 경쟁까지 서로 얽혀 있습니다. 한 기업이나 한 국가만 개발을 중단한다고 해서 다른 주체들도 함께 멈출 것이라는 보장은 없습니다. 오히려 규제를 지키는 기업만 뒤처지는 '죄수의 딜레마'를 언급하는 경우가 많은 것 같아 보입니다. AI 업계에서는 속도조절론이 안전을 위한 것인지, 경쟁자를 견제하기 위한 것인지에 대한 의심도 제기되고 있습니다.
AI가 인류를 멸망시킬 것이라는 공포를 과장해서도 안 될 겁니다. 그렇다고 그런 가능성을 허황된 공상으로 치부할 수 없는 것도 현실입니다. 어쨌든 통제 가능한 AI에 대한 논의가 시급해 보입니다.