최근 금융권에 동시다발적으로 발생한 ‘AI 해킹’ 사태는 산업계 전반에 준 충격이 적잖다. AI 발전에 따른 업무 효율화 등 혁신의 이면에는, AI 악용 가능성도 엄연했다는 사실을 우리는 그동안 잊고 지냈다.
AI로 생성된 'AI 해킹' 이미지 (그래픽=제미나이)
과거의 사이버 공격은 해커가 직접 취약점을 찾고 명령어를 입력하는 등의 수동적 패턴을 띄고 있었다. 하지만 이제는 AI가 스스로 판단하고 계획을 세워 침투 경로를 찾아낸다. 보안 인력이 패치를 통해 취약점을 업데이트하고 대응 레벨을 고민하는 사이, AI는 수만 번의 시도를 수 초만에 반복하며 시스템의 미세한 허점을 비집고 들어온다. 24시간 모니터링 체계를 구축하고 취약점을 보완하는 등 ‘방패’를 강화해도 AI라는 이름의 ‘창’ 앞에서는 무력할 수밖에 없다.
특히 지난날 ‘해킹=개인정보 유출’이라는 공식이 성립했다면, 앞으로 벌어질 해킹의 양상은 차원이 다를 수 있다. 취약점을 통해 은밀하게 접근한 AI는 해커의 의도에 따라 기업 내부의 핵심 기술을 정교하게 빼가거나, 거미줄처럼 엮인 공급망 전체를 동시다발적으로 마비시키는 등 기업에 회복 불가능한 치명상을 남길 가능성도 있다. 해킹을 단순히 금전 요구형 범죄나 개인정보 유출 사고로 치부할 수 없는 이유다. AI 기술 발전에 따라 해킹 역시 기업의 존립 자체를 흔드는 총력전으로 판도가 바뀔 공산도 있다.
이제 기업들의 보안 프레임을 원점에서 재검토할 때가 됐다. 산업계 전반 AI 전환(AX)에 박차를 가하고 있는 만큼, 보안 체계 역시 대수술이 불가피하다. 기업들이 해마다 보안 예산을 늘리고 인력을 강화하고 있지만, 실효성이 있는 지도 점검해야 한다. ‘AI의 공세는 AI로 막는다’는 대전제 아래, 효율적인 보안 체계가 구축돼야 한다.
경영진의 인식 변화도 중요하다. 아직도 많은 기업의 경영진이 정보보호를 미래를 위한 ‘투자’가 아닌 어쩔 수 없이 지출해야 하는 ‘비용’의 영역으로 바라보고 있다. 보안은 기업의 생존을 좌우하는 핵심 인프라가 됐다.
AI 해킹 사태를 내부 점검의 계기로 삼아야 한다. AI를 활용해 선제적으로 내부 취약점을 분석하고 방어 체계를 구축하는 이른바 ‘상병벌모’의 자세가 필요하다.