인공지능(AI) 개발 경쟁이 빨라지면서, 개발 속도를 조절해야 한다는 속도조절론이 나오고 있다. (이미지=챗GPT)
최근 친구와 집안일을 대신 해주는 인공지능(AI)이 나오면 뭘 맡기고 싶냐는 대화를 나눴습니다. 저는 음식물쓰레기 버리기를 택했는데요. 생각해보니 설거지도 시키고 싶고, 화장실 청소도 맡기고 싶어졌습니다.
그러다 친구가 농담처럼 말했습니다.
"이러다가 진짜 AI가 세상 지배하겠다."
웃고 넘겼는데, 요즘 뉴스를 보다 보니 마냥 농담처럼 들리지만은 않습니다.
최신 모델과 업그레이드만 이야기하던 AI 업계에서 최근 오히려 "속도를 조금 늦추자"는 목소리가 나오고 있습니다. 앤트로픽의 다리오 아모데이, 오픈AI의 샘 올트먼, 구글 딥마인드의 데미스 허사비스 등 주요 AI 업계 인사들이 안전을 위한 속도 조절 필요성을 이야기하기 시작했습니다.
AI를 가장 빠르게 발전시키던 사람들이 스스로 브레이크를 언급하기 시작한 겁니다.
물론 이를 순수하게 안전을 위한 움직임으로만 보지 않는 시선도 있습니다. 막대한 개발 비용을 줄이거나 선두 기업에 유리한 규칙을 만들려는 것 아니냐는 지적도 나옵니다. 국가 간 AI 경쟁 속에서 한쪽만 속도를 늦추는 것이 가능하냐는 문제도 있습니다.
그런데 이 논쟁의 핵심은 속도 그 자체보다 '누가 브레이크를 쥐고 있느냐'에 있는 것 같습니다.
친구와 나눈 이야기로 돌아가 보면 우리는 AI가 더 많은 일을 대신해 주길 바랍니다. 자료도 찾아주고, 운전도 해주고, 귀찮은 집안일까지 맡아줬으면 합니다.
문제는 '할 수 있느냐'와 '맡겨도 되느냐'가 어느 순간 다른 질문이 된다는 겁니다. 음식물쓰레기를 대신 버리는 것과 중요한 판단을 대신하는 것은 다릅니다. AI가 할 수 있는 일이 늘어날수록 어디까지 권한을 넘겨줄 것인지도 함께 고민해야 합니다.
AI 산업도 마찬가지입니다. 지금은 AI가 얼마나 빨리 발전할지, 언제 속도를 늦추고 다시 높일지를 이를 만드는 기업들이 먼저 결정합니다. 그렇다고 정부가 모든 것을 결정하는 것도 답은 아닐 겁니다. 기술을 잘 아는 기업의 판단도 필요하고, 독립적인 전문가의 검증과 사회가 합의한 최소한의 안전 기준도 필요합니다.
친구와는 "AI가 세상을 지배하면 어떡하냐"며 웃었지만, 지금 더 현실적인 질문은 따로 있는 것 같습니다.
AI에게 "거기까지만"이라고 말할 권한은, 누구에게 있어야 할까요?