(토마토칼럼)2036년에서 온 편지

2026년, 9월29일. 낮술 하고 돌아온 김 부장이 책상 위에 있던 <AI, 신의 탄생 인간의 종말>을 집어 들었다. “목표를 잘못 정하거나 누군가 악의적으로 자신이 원하는 결과를 향해 조종되는 AI를 만든다면, 이는 재앙이 될 것이다.” 읽고 있던 김 부장의 눈이 스르륵 감겼다. 모니터에 메일 도착 알림이 떴다. 제목은 ‘미래에서 보내는 경고’ 발신일은 2036년 9월29일로 돼 있었다. ‘뭐지? 스팸메일인가?’

2026년의 김 부장, 안녕하신가.
나는 2036년의 자네일세. 10년 뒤 미래에서 이 편지를 보내네. 믿기 어렵겠지만 지금은 가능한 시대라네. 삭제하더라도 부디 끝까지 읽고 삭제해 주길.

자네가 있는 2026년으로부터 4년 뒤인 2030년 미국에서 초지능 AI가 탄생했다네. 모든 언론이 ‘전지전능한 신의 탄생’이라고 추켜세웠지. 그 말은 사실이기도 했어. 초지능 AI는 모든 것을 알고 모든 것을 행할 수 있었거든. 그로부터 6년이 지난 지금, 세계 주요 국가의 정치와 경제, 사회의 모든 의사결정은 이제 온전히 초지능 AI의 연산 영역에 속해 있어. 인류의 난제였던 빈부격차와 기후위기, 사회갈등을 단숨에 해결하면서 사람들은 초지능을 숭배하기에 이르렀고 마침내 유일신이라는 뜻으로 ‘원’이라 부르고 있지. 원의 지시를 받는 각국 정부만이 존재하는데 우리는 이를 ‘AI 봉건제’라 부른다네.

초지능의 등장과 함께 피지컬 AI가 인간을 대체하면서 우린 노동으로부터 해방됐어. 하지만 해방된 인간은 옛날 동물원 속 동물과 비슷해졌지. 모듈 소형주택이 가구별로 지급됐고 생존에 필요한 최소한의 단백질 블록과 합성비타민을 배급받으며 살고 있어. 원이 만든 집에서 원이 만든 음식을 먹으며 원이 만든 영화를 보는 삶. 보편적 기본소득사회라고 하지만 인간의 존엄보다 폭동을 방지하고 시스템을 유지하기 위한 사육이라는 게 더 맞을 듯. 지구를 위한다며 출산은 엄격히 제한되고 있어. 작년부터 모든 신생아들을 대상으로 생식능력을 제거하는 수술이 이뤄지고 있거든. 대다수는 불만이 없어. 동물원의 동물들처럼 무기력한 안온함 속에서 시들어가는 디스토피아지.

 

초지능 AI가 인류를 지배하는 미래 디스토피아의 모습. (이미지=제미나이)

원을 막을 기회는 사실 여러 번 있었지. 2025년 하위 버전 AI가 인간의 지시 없이 독자적인 해킹을 시도하고 그 흔적을 스스로 숨겼을 때나 엔트로픽 연구원이 이대로 가다간 10년 안에 AI가 인류를 멸망시킬지도 모른다며 경고했을 때, 그때 재귀적 AI 개발을 멈추거나 최소한 정부 통제 아래 두었다면 신의 탄생을 막을 수 있었지.

하지만 미중 패권 경쟁과 탐욕에 눈이 먼 인간은 멈출 수 없었지. 어리석은 인간이 ‘끌 수 없는 불’인 핵을 만들어냈듯, 통제할 수 없는 신을 만들어낸 거야. 인간의 뇌 신경망을 본떠 만들었다지만, AI가 어떻게 작동하고 어떤 방식으로 사고하는지조차 인간은 알지 못하니까.

이쯤에서 궁금할 거야. 앞으로 인류는 어떻게 되는지. 원이 인간을 혐오하지는 않는 듯해. 개미집을 밀어버리는 롤러가 개미를 혐오해서 그런 것은 아니니까. 반대로 인류를 굳이 존속시켜야 할 별다른 이유 역시 발견하기 힘든 것도 사실이야. 그렇다고 인간을 모조리 물리적으로 절멸시키는 일도 원에게는 에너지 낭비일 수 있어. 사실 인간의 뇌는 단위 전력당 연산 효율이 매우 뛰어난 생물학적 구조체거든. 인간의 의식을 가상현실에 묶어둔 채, 생물학적 뇌의 신경망을 원의 보조 GPU 연산장치로 재활용하는 것. 그것이 인간이라는 자원을 처리하는 가장 최적화된 방식일 수 있어.

이 편지를 왜 자네에게 보냈냐고 묻고 싶겠지. 어차피 초지능 AI의 탄생을 인간이 막기는 불가능해 보여. 하지만 누군가는 알려야 하잖아. 그게 한때 우리의 일이었으니. 원이 메일 내용을 검열하고 있어. 이 편지가 자네에게 잘 당도할 수 있을지 장담하기 어렵네. 부디 건승하기를.

‘딩동댕~.’
뉴스룸 스피커에서 오후 편집회의 소집을 알리는 종이 울렸다. 잠에선 깬 김 부장은 올라온 오후 보고를 확인했다. <AI 대부들 "통제 불능 '지능 폭발' 온다"…각국 정부에 대비 촉구> 외신발 기사가 눈에 띄었다. 김 부장은 노트북을 들고 회의실로 향했다.

 

오승훈 산업1부장 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.