AI가 설계한 미래의 치명적인 독소 단백질 구조. 전통적인 생물학적 단백질 리본 모델 위에 디지털 회로와 빛나는 데이터 스트림을 결합해, 인공지능 기술이 생화학 분야에 가져올 잠재적 위협과 진화를 상징적으로 보여준다.(사진=Gemini 생성)
[뉴스토마토 임삼진 객원기자] 최근 인공지능(AI)이 신약 개발을 넘어 치명적인 바이러스나 독소 등 생화학 무기를 설계하는 데 악용될 수 있다는 경고가 나오면서, 전 세계 과학계와 보안 전문가들 사이에서 격렬한 논쟁이 벌어지고 있습니다.
생물학 분야의 AI 혁신은 인류에게 무수한 혜택을 약속하지만, 동시에 '통제 불가능한 위협'이라는 판도라의 상자가 열릴 수도 있다는 우려 때문입니다.
미·중 과학계 긴장시킨 '달팽이 독소 AI'
최근 과학 학술지 네이처(Nature) 보도에 따르면, 생화학 무기 AI에 대한 우려는 더 이상 이론의 영역이 아닙니다. 지난 2024년 중국 충칭대학교 연구진이 바다달팽이(청콘팽이)의 치명적인 신경독소인 '코노톡신(conotoxin)'을 설계하는 AI 툴을 개발했다고 발표하자, 미국 정부의 고위 관계자들 사이에서는 즉각 '생물보안(Biosecurity) 위험'이라는 경고등이 켜졌습니다.
특히 해당 AI가 미국 과학자들이 개발한 오픈소스 단백질 언어 모델을 기반으로 했다는 점이 알려지면서 우려는 더욱 증폭됐습니다. 이 연구를 주도한 쉐웨이웨이(Weiwei Xue) 교수는 "이 기술은 철저히 신약 개발을 목적으로 설계됐으며 악용 위험은 극히 낮다"고 항변했으나, 전문가들의 시선은 여전히 냉랭합니다.
스위스 취리히 대학교의 구조생물학자 마틴 파체사(Martin Pacesa) 박사는 네이처와의 인터뷰에서 "이론적으로 이제는 리신(ricin) 수준의 치명적인 독소를 인간이 전혀 탐지할 수 없는 형태로 개발하는 것이 가능하다"며 "이는 밤잠을 설치게 만드는 공포"라고 토로했습니다.
테러리스트가 챗GPT를 활용해 무기 제조 시도하기도
전문가들이 지적하는 위협은 크게 두 가지입니다. 첫째는 국가나 고도로 자금을 지원받는 테러 집단이 전문 생물학 소프트웨어를 사용해 새로운 변종 전염병 바이러스(SARS-CoV-2나 인플루엔자 변형 등)를 설계하는 시나리오입니다. 둘째는 전문 지식이 없는 일반인이 챗봇을 활용해 탄저균 같은 기존 생화학 무기의 제조법을 손쉽게 터득하는 것입니다.
실제로 비영리 단체 시큐어바이오(SecureBio)의 실험에 따르면, 숙련되지 않은 초보자가 최첨단 거대언어모델(LLM)을 사용할 경우, 바이러스 실험 프로토콜의 오류를 해결하거나 실험실 로봇을 제어하는 코드를 짜는 등의 작업에서 생물학 박사급에 준하는 능력을 발휘하는 것으로 나타났습니다. 실제로 지난해 인도에서는 테러 목적으로 독소 리신을 제조하려던 남성이 챗GPT와 구글 검색을 활용하다 체포되기도 했습니다.
이런 상황에서도 지나친 우려는 기우라는 목소리도 있습니다. 미국 국립과학공학의학원(NASEM)의 2025년 보고서는 "AI가 가상으로 설계한 바이러스를 실제 실험실에서 합성하고 배양하는 데는 여전히 높은 기술적 장벽이 존재한다"며 지나친 공포 확산을 경계하는 입장을 밝혔습니다.
"AI 소프트웨어 통제" vs "실물 제조 단계서 차단해야"
위협이 가시화되면서 대응책을 둘러싼 논쟁도 뜨겁습니다. 현재 거론되고 있는 대응책은 크게 세 가지입니다.
① DNA 합성 단계에서의 스크리닝 강화
가장 현실적인 방안으로 꼽히는 것은 AI로 설계한 유전자를 실제 물질로 만들어주는 'DNA 합성 기업'들의 검문을 강화하는 것입니다. 여기에도 한계는 있습니다. 마이크로소프트(MS)의 2025년 연구에 따르면, 오픈소스 AI를 사용해 기존 독소의 유전자를 교묘하게 변형하자 유전자 스크리닝 소프트웨어의 25%가 이를 감지하지 못하고 통과시킨 것으로 나타났습니다.
현재 미국, 영국, EU 등이 스크리닝 의무화를 검토 중이지만, 전 세계 DNA 합성 주문의 30% 이상을 차지하는 중국을 비롯해 대부분의 국가에서는 아직 민간 자율에 맡기고 있는 실정입니다.
② AI 모델 및 데이터에 대한 접근 제한
일각에서는 위험한 바이러스 데이터나 생물학 전용 AI 모델 자체의 접근을 통제해야 한다고 주장합니다. 실제로 오픈AI(OpenAI)는 최근 생물학 전용 모델인 'GPT-Rosalind'를 발표하며 오직 검증된 연구 기관에만 폐쇄적으로 제공하겠다는 방침을 세웠습니다.
③ 과도한 규제 경계 및 AI 방어망 구축
반면, 2024년 노벨 화학상 수상자인 데이비드 베이커(David Baker) 워싱턴대 교수를 비롯한 많은 과학자들은 과도한 소프트웨어 규제가 인류를 구원할 신약 개발 연구까지 가로막을 수 있다고 경고합니다.
오히려 AI 기술을 완전 개방해 수많은 안전 연구원들이 취약점을 먼저 찾아내게 하고, AI를 활용해 변형 독소에 대응할 '안티독소(Antitoxin)'나 진단 기술을 빠르게 개발하는 'AI 기반 방어 전략'이 더 유효하다는 목소리도 힘을 얻고 있습니다.
전 세계 정부가 생화학 무기 방지를 위한 AI 입법을 두고 '관망 모드'를 유지하는 가운데, 국제 생물보안 위원회 관계자들은 "AI의 발전 속도가 너무 빨라 예측이 어렵다"며 "기술의 위험성과 시급성을 감안한 국제적인 공조가 절실하다"고 입을 모으고 있습니다.
임삼진 객원기자 isj2020@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 강영관 산업2부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지