인공지능(AI) 보이스피싱이 급증하고 있습니다. 그리고 AI 보이스피싱에 대한 대처도 AI로 이뤄지고 있습니다.
최근 보이스피싱 수법이 고도화되면서 음성 샘플을 AI로 재현해 금품 등을 탈취하는 사기가 급증했습니다. 짧은 통화나 소셜미디어(SNS)에 이용자가 게시한 영상들도 AI 음성 복제에 사용될 수 있습니다. 수초 분량의 적은 샘플만으로도 목소리를 재현할 수 있어 피해자가 속을 가능성이 더 높아졌습니다.
(사진=뉴시스)
보안 기업 맥아피에 따르면 3초 분량의 음성만 확보해도 원본과 최대 85%까지 유사한 딥페이크 음성을 만들어낼 수 있습니다. 이를 통해 피해자 자녀나 지인의 목소리를 흉내 내 교통사고나 강도 피해를 당했다는 식으로 긴급상황을 꾸며 돈을 요구하는 범죄에 악용되고 있습니다.
최근 과학기술정보통신부는 보이스피싱 피해 방지를 위해서 AI 기반 보이스피싱 탐지·알림 앱과서비스 이용을 당부했습니다. AI 기술이 고도화되면서 더 이상 이용자의 판단만으로 보이스피싱을 알아차리기 쉽지 않게 됐기 때문입니다. AI 보이스피싱을 막기 위해 다시 AI 기술을 활용하지 않을 수 없는 겁니다.
보이스피싱 방지 앱이 무방비로 전화를 걸어 음성 샘플을 확보하는 행위 자체를 차단할 수는 없지만, 음성이 악용됐을 경우 사기 시도를 차단하는 데 유용할 수 있습니다. AI로 보이스피싱 통화를 감지해 피해 가능성을 알리거나, 전화를 차단할 수 있도록 합니다.