앞으론 인류 걱정, 뒤론 이윤 확대?…AI 속도조절론 ‘이면’

트럼프 “AI, 황금알 낳는 거위”…감속론 정면반박빅테크는 안전론 한목소리…IPO·규제선점 의심도

[뉴스토마토 이보라 기자] 이른바 ‘인공지능(AI) 속도조절론’이 전 세계 AI 산업을 흔들고 있습니다. 오픈AI와 앤트로픽 등 ‘AI 프론티어’ 기업 내부에서 AI가 스스로 코드를 개선하며 인간의 통제를 벗어날 수 있다는 ‘재귀적 자기 개선’ 우려가 잇따라 제기되면서, AI 개발 속도를 늦추고 안전장치를 먼저 갖춰야 한다는 목소리가 커지고 있습니다. AI가 이미 반도체와 데이터센터, 전력·건설 투자는 물론 국가안보와 미·중 패권 경쟁까지 한데 묶은 전략 자산이 돼버린 상황에서 도널드 트럼프 미국 대통령은 “AI는 황금알을 낳는 거위”라며, 속도조절론을 일축한 가운데 갑작스럽게 ‘브레이크’를 들고 나온 빅테크의 주장이 순전히 인류를 위한 이타적 선택만은 아닐 것이라는 의심도 커지고 있습니다. 막대한 투자 부담과 수익성, 후발 기업에 대한 규제 주도권까지 각 기업의 이해관계가 얽혀 있다는 지적입니다.

 

도널드 트럼프 미국 대통령이 13일(현지시각) 아일랜드 방문을 마치고 메릴랜드주 앤드루스 합동기지로 돌아가는 에어포스원 기내에서 기자들과 대화하고 있다. (사진=AFP·연합뉴스)

 

트럼프 대통령은 지난 14일(현지시각) 젠슨 황 엔비디아 최고경영자(CEO)와 공개 통화에서 최근 AI 업계에서 불거진 속도조절론을 정면으로 비판했습니다. 트럼프 대통령은 “AI 위험론은 사기(Hoax)”라며 “로봇이 세상을 장악하는 일은 없을 것”이라고 했습니다. 황 CEO는 로스앤젤레스에서 열린 ‘올인 서밋’ 도중 이 통화 내용을 스피커폰으로 공개했습니다. 트럼프 대통령은 앞서 트루스소셜에서도 “AI와 데이터센터를 겨냥한 역겨운 음모가 있으며, 이를 기뻐할 유일한 나라는 중국”이라고 주장했습니다. 전날에는 속도조절론을 제기한 일부 빅테크 CEO들을 ‘부정적 세력’이라고 지칭하며 “황금알을 낳는 거위를 죽여서는 안 된다”고도 했습니다. 황 CEO는 “미국은 AI에서 앞서가면서도 안전하게 할 수 있다”고 했습니다. 다만 최근 위험성을 경고하며 앤트로픽을 떠난 제이컵 콕슨 연구원에 대해서는 “용기 있는 행동”이라고 평가했습니다.

 

논쟁은 이달 초 오픈AI와 앤트로픽을 거친 콕슨 연구원이 회사를 떠나며 불붙었습니다. 그는 “AI를 만드는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 개별 기업의 노력만으로는 위험을 막기 어렵다고 주장했습니다. AI 기업들이 “스스로 개선하는 초지능을 향해 질주하면서 우리의 목숨을 걸고 도박하고 있다”고도 비판했습니다. 이후 다리오 아모데이 앤트로픽 CEO와 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO 등도 개발 속도 조절 필요성에 동조했습니다. 아모데이 CEO는 독립적인 외부 평가와 민주주의 국가 간 공통 안전 기준을 제안했고, 올트먼 CEO는 안전 확보를 이유로 IPO를 미루겠다고 밝혔습니다.

 

속도조절론을 바라보는 입장은 진영별로 뚜렷하게 갈립니다. 먼저 트럼프 대통령이 속도조절론에 강하게 반발하는 배경에는 미·중 AI 패권 경쟁과 미국 내 대규모 데이터센터 투자가 자리하고 있습니다. 트럼프 대통령은 AI를 반도체와 데이터센터, 전력·건설 투자를 끌어오고 일자리를 창출하는 미국 경제의 ‘성장 엔진’으로 인식하고 있습니다. 심지어 그는 AI와 데이터센터를 “석유와 금, 다이아몬드, 심지어 인터넷보다 더 큰 역사상 최고의 경제 발전 엔진”이라고 추켜세우기도 했습니다. 개발 속도를 늦추면 중국에 추격할 시간을 주는 동시에 미국 내 투자와 일자리 확대에도 제동이 걸릴 수 있다는 판단입니다.

 

(그래픽=챗GPT)

 

평소 경쟁 관계에 있던 이들이 이례적으로 한목소리로 속도조절론을 주창하고 나선 데 대한 의심도 커지고 있습니다. 데이비드 색스 백악관 과학기술자문위원장은 “초지능을 개발하지 않는 가장 쉬운 방법은 여러분이 개발하지 않기로 합의하는 것”이라고 했습니다. 이어 “미공개 모델이 그만큼 위험하다면 스스로 속도를 늦추면 된다”며 “그 동기가 순전히 이타적이라고 가장하지 말라”고 비판했습니다. 그는 빅테크가 주장하는 속도조절론이 향후 사고 발생 시 기업의 법적 책임을 줄이고, 정부 규제를 통해 후발주자의 진입장벽을 높이는 이른바 ‘규제 포획’으로 이어질 수 있다고 지적했습니다. 캐나다 AI기업 코히어의 에이든 고메즈 CEO는 선두 AI 기업들이 안전 기준과 평가 체계를 직접 설계하는 움직임에 대해 “일종의 카르텔”이라고 비판했습니다.

 

아모데이를 비롯한 빅테크 CEO들의 속도조절론에는 경제적 동기도 작용한다는 분석이 나옵니다. 개발 속도를 늦추면, 당장은 기업공개(IPO)를 앞둔 기업들에 부담이 될 수 있습니다. 새 모델 출시와 매출 성장 속도가 둔화하면 성장세가 꺾이는 것 아니냐는 의문이 제기될 수 있고, 그만큼 기업가치가 낮아질 가능성을 배제할 수 없습니다. 반면 장기적으로는 천문학적인 규모의 자금이 투입되는 신규 투자를 조절하면서 이미 출시한 서비스를 바탕으로 수익성을 끌어올릴 시간을 벌 수 있습니다. 특히 높은 안전 기준과 외부 평가가 제도화될 경우 막대한 비용을 감당하기 어려운 후발주자에게는 진입장벽으로 작용해, 규제 기준을 선점한 오픈AI나 앤트로픽 같은 선두기업이 시장 우위를 굳힐 가능성도 있습니다.

 

로이터는 15일(현지시각) AI 개발 경쟁이 “지정학적 경쟁 속에서 너무 커져 속도를 늦추기 어렵다”고 평가했습니다. 월스트리트저널(WSJ)은 이번 논쟁을 “돈과 안전의 충돌”로 규정하며 안전 우려와 IPO, 수천억 달러의 기업가치, 중국과의 경쟁이 함께 얽혀 있다고 분석했습니다. 황수욱 메리츠증권 연구원은 “인류의 안전이라는 정의로움이 속도조절 제안의 동기는 아닐 것 같다”며 “AI 개발 속도를 늦추면 가장 큰 이득은 AI 개발에 막대한 비용을 쓰는 AI 프론티어가 본다”고 했습니다.

 

이보라 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.