(단독)시대착오적 선거법에…1년 새 딥페이크 위반 27배 '껑충'

AI로 인한 선거법 위반, 1년 새 '389→1만513건''삭제 요청'된 위법 게시물, 4개 중 1개꼴 '그대로'

[뉴스토마토 이효진 기자] 인공지능(AI) 활용 선거운동을 포괄적으로 금지한 현행 선거법이 현실과 동떨어졌다는 지적이 나오고 있습니다. 지난해 대선에서 딥페이크(AI를 활용한 인물 이미지 합성 기술) 등 AI 관련 선거법 위반 건수는 1만건을 넘기며 1년 사이 26배 급증한 것으로 나타났습니다. 단속은 늘었지만 대부분이 삭제 요청에 그치며 실효성 논란도 커지고 있는데요. 전문가들은 AI 활용이 일상화된 만큼 규제 방식의 재정비가 필요하다고 지적합니다.

 

(그래픽=뉴스토마토)

 

AI 이용 선거운동 게시물 삭제율, 75%에 그쳐

 

10일 <뉴스토마토>가 국회 행정안전위원회 소속 국민의힘 고동진 의원실을 통해 입수한 중앙선거관리위원회 자료에 따르면 지난 2025년 치러진 21대 대선 당시 딥페이크 영상 등을 이용한 선거운동으로 선거법을 위반한 건수가 1만513건으로 집계됐습니다. 2024년 22대 총선 당시 389건이었던 것과 비교해 단 1년 만에 27배 증가했습니다.

 

공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 선거운동을 위해 AI로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등의 제작·편집·유포·상영 등을 금지합니다. 구체적으로 △딥페이크 △딥보이스 △AI 활용 각종 그래픽 영상·이미지 △AI 활용 배경 음악 등을 의미합니다. 제재 기간 이전에 생성한 홍보물이더라도 해당 기간 이전에 삭제 또는 숨김 처리를 해야 합니다.

 

반면 전반적인 사이버상 선거법 위반 건수는 오히려 줄었습니다. 허위사실 공표·모욕 등 전체 위반 건수는 △2024년 총선 7만4172건 △2025년 대선 7만2574건입니다. 이 중 AI 관련 위반 건수가 차지하는 비율은 0.52%에서 14.48%로 약 28배 급등했습니다.

 

단속 성과에 비해 실효성은 낮은 편입니다. AI를 이용한 위법한 선거운동의 적발은 늘었지만 대부분 조치는 삭제 요청에 그쳤습니다. 선관위는 선거법 위반행위에 이첩, 경고, 수사 의뢰, 고발 등의 조치를 내립니다. 지난 2024년 총선에선 전체 389건 중 경고 1건을 제외하고 모두 삭제 요청을 조치했습니다. 2025년 대선에선 전체 1만513건 중 고발 3건 외 모두 삭제 요청 조치가 내려졌습니다.

 

그마저도 실제 삭제율은 각각 75%, 77%에 그쳤습니다. 4건 중 1건은 삭제 요청을 이행하지 않은 것입니다. 허위사실 공표 등 나머지 사유로 삭제 요청을 받은 게시물의 삭제율이 모두 90%를 넘는 것과 대비됩니다.

 

지난 4일 경기도선거관리위원회에서 사이버공정선거지원단 관계자들이 '딥페이크 위반·허위사실 비방' 등 사이버 선거 범죄행위를 모니터링 하고 있다. (사진=뉴시스)

 

"상식선에서 AI 활용 방안 논의해야"

 

선거 홍보 과정에서 AI 활용을 포괄적으로 금지하는 선거법은 시대착오적이라는 지적이 나옵니다. 지난 2023년 개정된 현행 선거법은 AI를 활용한 선거 홍보물을 일괄적으로 제재 대상으로 봅니다. 영상물의 내용이나 성격의 위법성을 별도로 고려하지 않습니다. AI가 일상에서 쉽게 사용되는 현 시대상과 맞지 않아 의도치 않은 범법자만 양성한다는 우려도 제기됩니다.

 

선거법 개정의 필요성도 대두됩니다. 고동진 의원은 <뉴스토마토>에 "AI의 활용은 피할 수 없는 세계적인 추세"라며 "AI를 활용한 선거 운동을 완전히 규제하기보다는 합법적이고 상식적인 선 안에서 활용할 수 있도록 논의해 볼 필요가 있다"라고 밝혔습니다.

 

올해 치러지는 9회 지방선거에서도 AI로 인한 선거법 위반 건수가 많이 늘어날 전망입니다. 특히 교육감 선거에서도 AI 사용이 일괄적으로 규제될 예정입니다. 이날 국회 교육위원회는 전체회의를 열고 '지방교육자치에 관한 법률 일부개정법률안'를 통과시켰습니다. 해당 법안은 교육감 선거에서도 선거법의 AI 선거운동 규제 조항을 따르게 하는 내용이 골자입니다.

 

검찰도 지방선거에서 AI 선거운동에 대한 단속 강화를 예고한 상태입니다. 검찰은 이날 선관위 등이 참석한 가운데 신종 AI 선거범죄를 포함한 주요 선거사범 수사 방안을 논의했습니다. 'AI 활용 가짜뉴스 악용, 딥페이크 영상 활용 등 허위사실유포·흑색선전'을 3대 중점 단속 대상 선거범죄로 규정하기도 했습니다.

 

이 밖에 지나치게 규제 범위가 넓어 정작 일부 영상은 법망을 피해 간다는 점도 문제입니다. 유튜브가 지난해 발표한 통계에 따르면 하루 평균 약 2000만개 이상의 영상이 게시됩니다. 해외에 서버를 둔 영상 플랫폼의 경우 선거법에 저촉되는 영상을 미리 걸러내기 어려운 것도 한계로 꼽힙니다.

 

유하진 서울시립대 컴퓨터과학부 교수는 <뉴스토마토>와 통화에서 "유튜브 등 플랫폼의 자체 조사가 아니면 쇼츠 등 다양한 미디어 생산물을 판별하기 쉽지 않다"라고 설명했습니다.

 

이효진 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 최신형 정치정책부장이 최종 확인·수정했습니다.