인공지능(AI) 기술이 적용된 지능형 CCTV는 사람이나 사물의 행동 패턴을 분석해 배회, 침입, 싸움, 방화 등의 위험 징후를 자동 감지할 수 있습니다. 국내 지방자치단체에서도 도입돼 사고 위험 지역이나 일반 도로에 설치됐습니다.
지능형 CCTV의 탐지 정확도는 낮은 것으로 알려져 있습니다. 오작동 사례도 많습니다. 난간에 몸을 앞으로 내밀고 있는 사람을 침입 상황으로 탐지하거나, 공원에서 팔을 크게 돌리며 어깨 운동하는 사람을 싸움 상황으로 인식하는 일들이 발생하기도 합니다.
감사원은 최근 공공부문(지자체와 공공기관)이 활용하고 있는 AI에 대한 신뢰성 감사를 실시해 그 결과를 공개했습니다. 감사 결과에 따르면, 지난해 말 기준으로 공공부문이 사용 중인 AI 제품과 서비스 625개 중 지능형 CCTV가 228개로 다수를 차지했습니다.
그리고 서울시 11개 자치구 표본 점검 결과, 지능형 CCTV의 침입 등 3개 항목 실제 탐지 정확도는 12~52% 수준에 그쳤습니다. 한국도로공사가 활용하고 있는 포트홀 감지 시스템의 탐지 정확도 역시 14.7% 수준이었습니다.
서울 시내 거리에 인공지능 기반 CCTV가 설치돼 있다. (사진=뉴시스)
현재 지능형 CCTV는 '재난 및 안전관리 기본법'에 법적 근거를 두고 운영되고 있습니다. 하지만 시민의 사생활을 침해할 우려가 커 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있다는 지적이 많습니다. 더구나 지능형 CCTV의 오작동으로 인한 사고도 우려됩니다.
유럽연합(EU) 인공지능기본법에서는 법 집행 목적으로 공공장소에서 원격으로 얼굴을 인식하는 AI 시스템을 기본적으로 금지하고 있습니다. 공공장소에 있다는 이유만으로 개인에 대한 인권을 침해하거나, 국가기관에 의한 시민 감시 시스템으로 오용될 위험성이 높다는 이유에섭니다.
이번 감사 결과도 실제 문제가 없는 개인의 행동을 이상 징후로 판단해 잘못된 평가나 예측을 하고 공권력을 행사해 기본권을 침해할 수 있다는 점을 확인해주고 있는 것 같습니다. 한국은 국가적 차원에서 AI 경쟁력 강화를 위해 AI 기술 사용과 활용을 공공부문까지 폭넓게 적용하고 있습니다. 하지만 그 위험성과 기본권 보호까지 고려한 신중한 판단이 필요해 보입니다.