[뉴스토마토 이재희 기자] 중국 스타트업이 개발한 생성형 AI '딥시크'의 개인정보 유출 우려가 커지면서 오픈형 AI 적용을 확장해온 은행에도 악영향을 주고 있습니다.
7일 금융권에 따르면 KB국민은행과 신한은행, 하나은행, 우리은행은 안전성 검증을 이유로 사내 외부망과 고객용 PC에서 딥시크 접속을 차단하고 있습니다. 인터넷은행인 카카오뱅크와 토스뱅크, 케이뱅크도 보안성 검토가 끝날 때까지 딥시크 서비스를 중단키로 했습니다. 오픈형 AI가 어떤 정보를 어떤 기준으로 수집하는지 알 수 없어 과도한 정보 수집과 노출 위험이 크다는 이유에서입니다.
특히 글로벌 보안솔루션 기업인 시스코가 주요 AI 모델들을 대상으로 보안 위험을 평가한 결과 딥시크는 최하위를 기록하며 그 위험성은 더욱 부각됐습니다. 딥시크는 50번의 무작위 프롬프트 공격에서 단 한번도 막아내지 못했습니다.
중국 생성형 AI 딥시크발 리스크로 인해 은행권에서 돌던 AI 열풍이 주춤한 모양새다. 서울 종로구 정부서울청사 사무실에서 공무원 컴퓨터 화면에서 딥시크 사이트가 차단된 모습.(사진=뉴시스)
생성형 AI 활용 속도내던 은행들 비상
생성형 AI를 활용해 업무 범위를 확장하려던 은행들의 고심은 커질 수밖에 없습니다. 금융당국은 지난해 국내 금융권 AI 경쟁력 강화를 위해 대고객 서비스에 외부 개발사 서비스 활용을 '혁신금융서비스'로 허용해줬습니다. 이에 따라 은행들은 오픈AI 중 챗GPT등을 활용해 자체 AI를 활용한 금융서비스를 확대하는 데 속도를 내왔습니다.
실제로 시중은행 중 작년 최초로 AI 은행원을 활용한 무인점포 'AI 브랜치'를 개점한 신한은행은 올해 AI를 활용한 사업을 더욱 다각화 한다고 밝힌 바 있습니다. AI 에이전트를 내부 시스템과 연계한 업무 비서 플랫폼 'AI ONE'의 고도화로 대출업무 시 서류 발송이나 일정 관리, 업무 관리 등 40여가지 업무비서 기능을 더욱 편리하게 사용하게 할 계획입니다.
올해 'AI 네이티브 뱅크'로 나아가겠단 포부를 밝힌 카카오뱅크도 연 내로 챗GPT를 활용한 대화형 AI금융계산기를 출시할 계획입니다. 이미 전체 인력의 10% 이상을 AI 기술 인력으로 확보하고 AI 전용 데이터센터도 구축했으며, 고객 상담의 70%를 차지하는 챗봇도 카카오뱅크 어플리케이션에서 제공할 계획입니다. 아울러 금융기술연구소를 주축으로 인공지능 관련 다양한 연구를 진행하고 AI 기술력을 확보해 대고객 서비스, 이상거래 탐지 등 업무 전반에 AI를 활용할 방침입니다.
KB국민은행은 생성형 AI 금융상담 '에이전트'를 선보일 예정이며, 하나은행은 AI 자산관리 '아이웰스' 등 AI 모델을 지속적으로 업그레이드할 계획입니다. 우리은행은 AI 상담 서비스인 '우리WON뱅킹'을 확장해 고액 자산가들이 받던 맞춤형 자산관리 서비스를 선보이기로 했습니다.
폐쇄적 운영한다지만 안전성 '글쎄'
국내 은행들은 망분리 규제에 따라 내외부망에서 허용된 사이트만 접속 가능하게 관리하고 있고 언어모델도 내부에서 폐쇄적으로 운영하고 있어 안전하다는 입장입니다. 그러나 향후 생성형 AI를 활용한 대고객 서비스를 개시할 경우에 안전성을 완전히 답보하긴 어렵다는 지적이 만만치 않습니다. 생성형 AI가 데이터의 출처를 정확히 파악하기 어려운데다 고객 정보 보안 문제 등도 발생할 수 있기 때문입니다.
현재 은행권에선 신한은행과 카카오뱅크가 챗GPT를 일부 활용한 내부 언어모델(LLM, Large Language Model)을 개발해 사용하고 있으며, 타 행들도 자체 LLM을 구축하는 움직임을 보이고 있습니다.
다만 금융권은 무엇보다 고객 정보 보호가 중요한 업종인 만큼 AI 활용 범위를 무작정 늘리기보다는 안전성과 신뢰성을 확보하는 게 우선이라는 지적입니다.
은행권 관계자는 "이번 딥시크 사태에서 보듯이 검증되지 않은 모델을 내외부망에서 사용할 경우 보완이 뚫리는 등 위험이 커질 것"이라며 "AI를 활용하고 개발 중인 은행들 대부분이 안전성에 신경쓰는 계기가 될 것"이라고 말했습니다.
은행권 다른 관계자는 "은행에서 위험도가 높은 딥시크 같은 생성형 AI를 쓰진 않겠지만 금융업이 고객 정보 등 보안에 예민한 만큼, AI 확장 전략에 어느 정도 신중을 기하지 않을까 생각한다"고 설명했습니다.
생성형 AI에 대한 안전성 우려가 제기되면서 자체적인 언어모델 개발 등 경쟁에 뛰어들던 은행들이 보안성 검증과 안전한 활용방안을 마련해야 한다는 의견이 제기되고 있다. 사진은 시중은행 ATMㄱ 앞에 사람이 서 있는 모습.(사진=뉴시스)
이재희 기자 nowhee@etomato.com