인공지능(AI)이 질문에 답하고 글을 작성하는 수준을 넘어 스스로 판단하고 행동하는 시대가 다가오고 있습니다. 인간의 지시를 일일이 기다리지 않고 계약을 체결하거나 금융 거래를 수행하고, 여러 서비스를 오가며 업무를 처리하는 'AI 에이전트'가 그 중심에 있습니다.
이러한 변화 속에서 AI에도 인간의 주민등록번호와 같은 고유 식별번호를 부여하려는 움직임이 나타났습니다. 에스토니아는 AI 에이전트가 개인이나 기업, 기관을 대신해 활동할 때 사용할 수 있는 국가 차원의 'AI ID 코드'를 도입할 계획입니다. AI가 누구를 대신해 움직이는지, 어떤 권한을 부여받았는지를 확인할 수 있도록 하겠다는 취지입니다.
AI 에이전트는 단순한 프로그램과 다릅니다. 사용자를 대신해 여행을 예약하거나 웹사이트를 만들고, 금융 거래를 실행하는 등 실제 경제활동에 관여할 수 있습니다. 앞으로 활용 범위가 확대되면 AI끼리 거래하거나 협상하고, 인간을 대신해 계약 절차를 진행하는 상황도 자연스러워질 수 있습니다.
문제는 책임입니다. AI가 잘못된 거래를 하거나 손실을 일으켰을 때 그 책임이 개발사에 있는지, 서비스를 운영한 기업에 있는지, 아니면 AI에 업무를 맡긴 이용자에게 있는지 명확하지 않습니다. 여러 AI와 서비스가 연결된 상태에서 문제가 발생하면 어떤 시스템이 어떤 판단을 내렸는지조차 확인하기 어려울 수 있습니다.
AI에 고유한 식별번호를 부여하면 이러한 문제를 추적할 단서가 생깁니다. 어떤 에이전트가 누구의 허가를 받아 움직였는지, 어떤 범위의 권한으로 어떤 행동을 했는지를 기록할 수 있기 때문입니다. 사고가 발생한 뒤 책임자를 찾는 것뿐 아니라, AI가 권한을 넘어서는 행동을 하지 못하도록 사전에 범위를 제한하는 장치로도 활용할 수 있습니다.
다만 식별번호가 부여된다고 해서 AI가 인간이나 기업과 같은 독립적인 법적 책임 주체가 되는 것은 아닙니다. 에스토니아의 구상도 AI 자체에 모든 책임을 떠넘기기보다는, AI의 행동을 사람과 기업의 권한에 연결하고 그 책임의 흐름을 투명하게 만드는 데 초점이 맞춰져 있습니다.
AI를 어떻게 개발해야 하는지를 넘어, AI가 행동한 결과를 누가 책임져야 하는지에 대한 논의가 시작되고 있습니다. AI에게 식별번호가 필요하다는 발상 자체가 AI가 더 이상 화면 안에 머무는 도구가 아니라 현실의 경제와 행정, 인간의 삶에 깊숙이 관여하는 존재가 됐다는 의미일 것입니다.
신상민 기자 lmez0810@etomato.com