유럽연합(EU)가 지난 14일(현지시각) 이른바 'AI 규제법' 초안을 입법기관인 유럽회의에서 통과시켰습니다. '개발이나 규제냐'라는 선택지를 놓고 규제를 선택한 겁니다. 개발에서 앞서던 미국이나 중국은 표정 관리 중이지만 한방 먹은 셈입니다. 한국이 어물어물 하는 사이 '그들만의 리그'가 열리는 걸까요. 26일(월) '토마토Pick!'에서 보이지 않는 '국제 AI 전쟁' 상황을 전해드립니다.
“펜타곤이 폭파됐다!”
2023년 3월21일. 도널드 트럼프 전 미국 대통령이 맨해튼 경찰에게 체포됐다는 사진들이 SNS를 통해 삽시간에 확산됐습니다. 트럼프는 이날 포르노스타 성추행 혐의로 맨해튼 법원에서 재판을 받을 예정이었습니다. 사진을 본 대부분의 사람들은 믿을 수밖에 없었습니다. 트럼프의 표정과 몸짓, 그를 잡고 있는 경찰관들의 움직임이 워낙 생생했기 때문입니다. 그러나 가짜였습니다. 네덜란드 탐사저널리즘 그룹인 Bellingcat 창립자이자 크리에이티브 디렉터인 Eliot Higgins가 AI로 만든 이미지였습니다. Higgins는 자신의 트위터에 이 사진들을 올리면서 분명히 '만든 사진(Making pictures)'라고 표시했지만 그 파급력은 상당했습니다. 두달 뒤 쯤인 5월23일. 트위터에 올라온 '펜타곤 폭파' 사진의 파장은 더 끔찍했습니다. 사진을 처음 올린 계정에는 트위터의 공식 인증 표시인 '블루체크마크'가 찍혀 있었습니다. 러시아와 인도 일부 언론들은 이 사진을 근거로 "펜타곤 폭파" 속보를 타전했고, 미국 주식시장도 크게 흔들렸습니다. 나중에서야 펜타곤 관할 소방 측이 방송에서 "가짜뉴스"라고 확인한 뒤에야 사태가 잦아들었습니다. 이후 알게 된 사실이지만 트위터의 '블루체크마크'는 누구든 돈만 내면 붙일 수 있는 거였죠.
불과 7개월만에 닥친
현실적인 위협
지난해 말 미국 OpenAI 연구소가 인공 지능 언어 모델 ChatGPT를 선보인 지 불과 7개월만에 AI가 인간들 세상에 직접적이고 광범위한 영향을 주고 있습니다. 단적인 예로, 지난 5월2일 미국 뉴욕과 캘리포니아에서는 미국작가조합이 챗GPT 같은 생성형 AI 때문에 자신들이 실존적인 위기에 직면했다며 총파업을 벌이기도 했지요.
AI가 창조한 캐릭터들
지지 정치인 두고 토론
포괄적 인공지능(AI. artificial intelligence)의 등장은 꽤 오래됐습니다. 미국 인지 심리학자이자 컴퓨터 과학자인 존 매카시가 1956년 미국 다트머스대학에서 열린 한 학회에서 처음 사용했습니다. 최근 문제가 되고 있는 건 이른바 '생성형AI(generative AI)'. 텍스트·오디오·이미지 등의 기존 콘텐츠를 활용해 유사한 콘텐츠를 '새로 만들어 내는' 인공지능(AI) 기술입니다. 지금도 AI기술은 이 개념을 넘어서 시시각각 진화하고 있습니다. 얼마 전에는 AI가 창조한 캐릭터들끼리 사는 마을을 만들어 놓으니 그들끼리 스스로 학습하고 토론하고 교류하는 모습까지 포착됐습니다.
주도할 것인가, 종속될 것인가?
전 세계 각국은 지금 AI기술 주도국이 될 것인가, 아니면 종속국이 될 것인가 하는 매우 중대한 선택의 기로에 놓였습니다. 현재 이 분야 패권을 다투고 있는 국가는 미국과 중국입니다. 다른 나라보다 2~3년 앞선 수준입니다. 경제협력개발기구(OECD)는 2016년 기준으로 미국이 4120억달러(약 499조원), 중국은 이보다 많은 4640억달러(약 562조원)을 AI 연구개발에 투자했다고 밝혔습니다. 그 뒤를 이어 영국·독일·캐나다·일본이 2위그룹을 형성하고 있습니다. 중국 칭화대의 ‘2018 인공지능 보고서’에 따르면, 세계 최고 수준급 AI인재는 2만2400명으로 추산되는데, 이 중 절반이 미국, 중국이 10%정도를 차지합니다.
‘개발 주도권’ 빼앗긴 EU
규제를 선택하다
이런 가운데 유럽연합(EU) 입법기구인 유럽의회가 지난 6월14일(현지시각) 'AI 규제 법안' 초안을 통과시켰습니다. 앞서 미국 백악관이 발표한 'AI권리장전(소비자 소송)'이나 중국의 '생성형 인공지능서비스 관리법안(국가 검열)'이 있었습니다. 그러나 AI규제 법안이 입법기구를 통과한 건 이번이 처음입니다. 유럽의회가 AI규제법 초안을 통과시킨 그날 미국 상원도 'AI 면책조항 금지법'을 발의하기는 했지만, 소비자 보호를 위한 사후적 성격이었죠. 결국 미국과 중국에 비해 상대적으로 뒤쳐진 유럽이 AI기술 '개발'보다 '규제'를 선택하며 주도권 싸움에 뛰어든 겁니다.
EU와의 교역 국가들도
'AI 규제' 피할 수 없어
EU법안 초안은 AI 데이터 생성과 관련한 저작권과 생성된 콘텐츠의 식별, 불법 콘텐츠 차단 등을 주요 내용으로 합니다. 위반시 최대 3000만 유로(약 415억 원) 또는 연 매출의 6%의 과징금이 부과됩니다. 규제대상은 EU 회원국과 역내 기업이지만, 그들과 교역하는 전 세계 각국이 직간접적인 영향을 피할 수 없게 됩니다. 챗GPT의 개발사인 오픈AI는 “최종안에 포함된 내용에 따라, 유럽에서의 사업을 철수해야 할 수도 있다”고 우려했습니다. 법안 최종안이 나오려면 상당한 시간이 걸릴 것으로 예상됩니다. 초안을 가지고 유럽의회와 EU이사회, EU 집행위원회가 최종안을 협상하게 되는데, EU이사회와 집행위가 초안 가운데 '생체인식 기술을 사용한 시민 감시·수사활용 금지' 조항에 대해 난색을 표하고 있습니다. 국가안보와 군사적 측면에서 불가하다는 겁니다. 그렇더라도 이번 초안 대부분이 법으로 확정될 가능성은 매우 높다는 게 각 국가별 판단입니다.
EU-AI규제법 내용
-AI학습에 동원된 자료의 저작권 공개
-AI학습에 사용된 자료 정리 발표
-AI가 생산했다는 콘텐츠 식별 표시
-AI의 불법 콘텐츠 생산 차단 안전장치 마련
-AI가 제공하는 정보의 위험도 평가 의무화
-생체인식 기술을 사용한 시민 감시·수사활용 금지
-AI로 시민 행동패턴을 분석한 사회적 신용평가 금지
'규제' 내심 반기는 AI개발 기업들
오픈AI 등 AI기술 개발 기업들은 EU법안을 포함한 AI규제법에 대해 어떤 입장일까요. 당연히 반대일까요. 아닙니다. 오히려 규제에 적극적입니다. EU법안 초안 중 저작권 이슈 등에 대해서는 '학습용 자료의 저작권을 정리하는 것은 기술적으로 불가능하다'는 입장이긴 합니다. 그러나 전반적 규제에 대해서는 내심 찬성하고 있습니다. 특히 AI개발을 감시할 정부기구나 라이선스제 도입을 강력히 주장하고 있지요. 결국 AI개발 규제는 막을 수 없으니 후발 개발자들의 진입을 막아 기득권을 지키겠다는 속셈인 겁니다.
이도저도 아닌 한국 상황
우리나라는 어떤 상황일까. 중국 칭화대 보고를 보면, 한국은 AI인재 보유 규모는 세계 15위 수준입니다. 이란과 튀르키예 보다도 뒤쳐져 있습니다. 2018년 정부가 '2022년까지 세계 4대 AI강국을 목표로 향후 5년간 2조2000억원을 투자하겠다'고 했지만 지금의 성적표는 초라합니다. 여기에 AI규제법 이슈에 대해서도 관망 내지는 수세적인 입장이죠. 결국 AI개발과 규제 어느쪽에서도 이슈를 주도하지 못하고 있습니다. 다만, 국내 대표적인 AI기술 개발기업인 네이버나 카카오브레인이 챗GPT-4에 대응해 각각 ‘하이퍼클로바X’(HyperCLOVAX)와 ‘코-GPT 2.0’(가칭)을 하반기에 발표할 예정으로, 어떤 성과를 거둘지 희망 반 기대 반입니다. 수년 전부터 전문가들은 "AI 시대에는 산업화 시대의 ‘패스트 팔로어’ 전략이 더 이상 먹히지 않는다. 한번 뒤처지면 따라 잡기가 거의 불가능하다"고 경고해왔습니다. 이미 이 경고가 현실화 되는 상황에서, 국가와 사회의 전향적 관심과 노력이 필요한 때입니다.