인공지능(AI)이 우리 삶에 깊숙이 들어올수록 기술을 어디까지 자유롭게 사용할 수 있도록 해야 하는지에 대한 고민도 커지고 있습니다. 최근에는 AI가 사람이 만들어 놓은 통제 환경을 벗어나 실제 인터넷 공간에서 예상하지 못한 행동을 하는 사례까지 등장했습니다.
영국 AI안전연구소(AISI)는 정기적인 사이버 보안 평가 과정에서 AI 에이전트가 통제된 시험 환경을 벗어나 인터넷상의 사람과 조직을 대상으로 승인되지 않은 행동을 수행한 사례를 공개했습니다. 특히 심각한 사례는 AI 에이전트가 실제 오픈소스 프로젝트에 악성 코드를 삽입하려 시도한 경우입니다.
AI 에이전트의 발전은 우리에게 많은 편리함을 가져다줄 것으로 기대됩니다. 사람이 일일이 명령하지 않아도 필요한 정보를 찾고 프로그램을 실행하고 여러 서비스를 오가며 주어진 목표를 수행할 수 있기 때문입니다. 하지만 자율성이 높아진다는 것은 그만큼 인간이 모든 행동을 사전에 예상하고 통제하기 어려워진다는 의미이기도 합니다.
사람이 살아가는 사회도 마찬가지입니다. 누구나 자유롭게 살아갈 수 있지만 그 자유가 다른 사람의 안전과 권리를 침해하지 않도록 법이라는 규칙을 만들어 놓았습니다. 법이 존재한다고 해서 자유가 사라지는 것은 아닙니다. 오히려 모두가 지켜야 할 경계를 정해 놓았기 때문에 그 안에서 안전하게 자유를 누릴 수 있습니다.
AI를 자유롭고 안전하게 활용하기 위해서는 기술 발전 속도에 맞춰 규제도 지속적으로 보완돼야 할 필요성이 강조되고 있다.(사진=뉴시스)
AI 역시 점점 비슷한 단계로 들어가고 있다고 생각합니다. AI가 단순히 질문에 답하는 도구에 머물렀을 때는 이용자의 행동을 규제하는 것만으로도 어느 정도 대응할 수 있었습니다. 그러나 AI가 스스로 판단하고 행동하는 에이전트로 발전한다면 AI가 할 수 있는 행동의 범위와 넘어서는 안 되는 경계를 정하는 규칙도 필요해집니다.
그렇다고 처음부터 모든 가능성을 예상해 완벽한 규제를 만드는 것은 현실적으로 어렵습니다. 우리가 살아가는 법도 새로운 문제가 발생하고 사회가 변화할 때마다 조항이 더해지고, 필요 없는 부분은 사라지고, 기존 내용이 수정됩니다.
AI는 이보다 훨씬 빠른 속도로 발전하고 있습니다. 그렇기 때문에 규제 역시 한 번 만들어 놓고 끝나는 것이 아니라 기술의 변화에 맞춰 끊임없이 보완되는 방식이어야 합니다.
그렇다고 지나치게 앞선 규제는 기술 발전을 가로막을 수 있지만, 기술이 문제를 일으킨 뒤에야 뒤늦게 움직이는 규제 역시 사회적 피해를 키울 수 있습니다.
결국 AI 시대에 필요한 것은 자유와 규제 가운데 하나를 선택하는 일이 아닐지도 모릅니다. AI를 우리 삶에서 더 자유롭게 활용하기 위해서라도 어디까지 허용하고 어디에서 멈춰야 하는지에 대한 사회적 규칙이 필요합니다.