유럽연합(EU)이 2023년 12월 14일 세계 처음으로 AI 규제법 도입에 합의를 했다. AI 기술 이용을 규제하고 이러한 규제 및 규정을 위반하는 기업에는 최대 3,500만 유로 또는 글로벌 매출의 7%의 벌금을 부과하는 내용을 중심으로 하는 AI 규제법이다.
AI 규제법은 AI 기술의 위험성을 시민의 권리, 민주주의 위협 등을 기준으로 하여 (1) 허용할 수 없는 위험, (2) 높은 위험, (3) 제한된 위험, (4) 최소 위험의 4가지 등급으로 분류한다. 위험도가 가장 높은 '허용할 수 없는 위험'에 속하는 얼굴 이미지에 대한 대량 수집과 데이터베이스(DB) 구축 등에 대해서는 원칙적으로 금지했고 다만, 테러 등 심각한 범죄 시에는 예외를 두었다. 또한, 정치, 종교, 성적 지향, 인종 등에 대한 생체정보 수집도 막았다.
이외에도 AI 규제법에서는 인간의 지능을 넘어서는 범용 AI에 대한 안전장치(가드레일)를 도입하였고, 범용 AI를 운영하는 AI 회사는 데이터를 학습하는 방법 및 데이터를 보고 하도록 했다. 또한, 생성형 AI가 만든 콘텐츠에 대해서는 해당 사실을 알려야 하고 AI가 학습한 데이터의 저작권을 공개해야 하며 기본적으로 EU의 저작권법을 준수하도록 하였다.
위 AI 규제법이 시행되어 실제로 규범력을 갖기 위해서는 EU 집행위원회, EU 이사회, 유럽의회가 의견을 조정하는 합의과정을 추가로 거쳐야 하는데, 합의 이후 유예 기간 등을 별도로 두는 것을 고려하면 2026년 정도에 규범력을 갖고 글로벌 기업을 포함한 주요 AI 기업에 대하여 실질적 영향력을 미칠 것으로 생각된다.
AI 기술 등은 개별 국가에 국한되어 서비스가 제공되는 것이 아니고 전세계에 광범위하게 영향을 미친다. 그러므로 위 AI 규제법은 단지 EU 내의 기업에만 영향을 미치는 것이 아니라 당연히 구글, 메타, 오픈 AI 등의 글로벌 AI 기업에 직접적인 영향을 미칠 수밖에 없다. 이러한 이유에서 위 AI 기업법은 AI 기술에 뒤처져 있는 유럽이 미국의 주요 AI 기업을 견제하려는 의도에서 합의가 된 것이라는 의견도 많다.
위 AI 규제법이 전세계에 미치는 영향에 대해서는 과거 2016년 5월 유럽연합에서 제정한 「일반 개인정보보호법(General Data Protection. Regulation)」(이하 'GDPR')이 전 세계에 미친 영향을 보면 예상하기 쉽다. 2016년 당시 개인의 개인정보 및 데이터를 이용한 딥테크(Deep Tech) 기업들이 빅데이터 산업을 발전시키면서 개인정보의 이용과 보호라는 두 가치 중 어느 것을 더 중요시해야 하는지가 논란이 되었고, 유럽연합은 GDPR을 제정하여 개인정보의 수집, 이용, 관리, 폐기에 대한 명확한 규제를 도입했다.
개인정보를 이용한 산업 역시 AI 산업과 동일하게(사실 AI 기술이란 개인정보를 포함한 데이터를 학습하여 이용하는 산업이므로 동일 또는 유사한 산업이라 할 수 있다), 유럽연합에서 GDPR을 도입했다고 하더라도 실질적으로는 전세계의 글로벌 기업 전체에 직접적인 영향을 미치게 된다. 이에 유럽 뿐만 아니라 미국, 일본, 한국 등에 있는 모든 데이터 기업들이 GDPR의 직접적 영향을 받게 되었고, 결과적으로 전세계 각 나라의 개인정보 보호와 관련한 법률은 GDPR를 중요한 기준으로 하여 제정 또는 개정되었다. 한국 역시 유럽연합의 GDPR 제정 이후에야 부랴부랴 당시 시행하고 있던 「개인정보 보호법」을 GDPR의 기준에 부합하도록 개정했다.
위와 같은 전례를 고려하여 한국 역시 조속히 AI 기술에 대한 법령을 정비하고 제정할 필요가 있다. 과거 유럽연합의 GDPR 시행 이후 뒤늦게 「개인정보 보호법」을 개정하여 뒤따라갔던 안 좋은 경험을 또다시 되풀이 해서는 안 된다. AI 기술은 빠르게 발전하고 있으면서도, 인공지능 책임의 문제, 개인정보의 문제, 저작권 및 영업비밀 침해의 문제 등 다양한 사회적 문제를 내포하고 있다.
한국은 유럽연합에서 합의한 AI 규제법의 주요 골자를 충분히 이해한 후 위와 같은 AI 기술의 주요 문제를 최대한 해결할 수 있는 방향으로 법령을 정비해야 하며, 나아가 우리의 선제적인 AI 정책 및 정책이 유럽연합과 미국 등의 AI 규제법 제정에 영향을 미칠 수 있도록 할 필요가 있다. 이를 통해서 한국의 AI 기업과 산업이 예측 가능한 규범 하에서 안정적으로 AI 기술을 개발, 발전시킬 수 있다. 우리는 이러한 법적, 규범적, 정책적 접근을 통해서 AI 기술을 보다 안정적으로 제도화하고 선제적으로 대응하여 세계의 AI 산업을 주도하여야 한다.
안희철 법무법인 디라이트 파트너 변호사