인공지능(AI)이 내 주머니 속으로 들어오고 있습니다. AI가 스마트폰에 들어온 건 이미 오래전이지만, 최근에는 인터넷을 거쳐 외부 서버에 접속하지 않고 기기 자체에서 AI를 구동하는 온디바이스 AI가 빠르게 고도화되고 있습니다. 거대한 데이터센터에서 돌아가던 생성형 AI가 이제 손바닥만 한 스마트폰 안에서도 제법 복잡한 일을 처리하기 시작한 것입니다.
로이터는 최근 대만 반도체 기업 미디어텍이 TSMC의 최첨단 2나노 공정을 적용한 스마트폰용 칩 디멘시티 9600 프로를 공개했다고 보도했습니다. 눈길을 끄는 건 AI 성능입니다. 미디어텍에 따르면 이 칩에 탑재된 신경망처리장치(NPU)는 사용자의 명령을 처리하는 과정에서 전작보다 51% 향상된 성능을 냅니다. 복잡한 생성형 AI 기능을 스마트폰 자체에서 처리하는 데 초점을 맞췄습니다.
그동안 생성형 AI를 이용하려면 질문을 데이터센터로 보내고, 그곳의 고성능 컴퓨팅 자원으로 만들어진 답을 다시 받아오는 방식이 일반적이었습니다. 하지만 온디바이스 AI는 일부 작업을 스마트폰 안에서 직접 처리합니다. 인터넷 연결이 원활하지 않아도 AI 기능을 이용할 수 있고, 개인정보가 외부 서버로 전달되는 것을 줄일 수 있다는 장점도 있습니다.
스마트폰을 고르는 기준도 달라지고 있습니다. 몇 년 전까지만 해도 카메라 화소와 화면 크기, 저장공간, 배터리 용량을 먼저 살폈습니다. 이제는 여기에 AI를 얼마나 잘 돌리느냐가 새로운 경쟁력이 됐습니다. 반도체 업체들이 모바일 칩의 AI 성능을 앞다퉈 강조하는 이유입니다.
AI의 발전이라고 하면 거대한 데이터센터나 사람처럼 움직이는 로봇부터 떠올리기 쉽습니다. 하지만 우리가 가장 먼저 체감하는 변화는 훨씬 가까운 곳에서 일어나고 있는지도 모릅니다.
주머니 속에서 매일 꺼내 드는 스마트폰. AI는 이미 그 작은 기기 안으로 빠르게 자리를 옮기고 있습니다.