인공지능(AI) 업계의 경쟁 기준이 바뀌고 있습니다. 불과 1~2년 전만 해도 더 큰 모델과 더 많은 토큰을 처리하는 능력이 기술 경쟁력이었습니다. 사용자의 질문에 더 긴 추론 과정을 거쳐 답변을 생성하는 모델일수록 우수한 AI라는 평가를 받았습니다. 기업들이 '토큰 맥싱'을 추구한 겁니다.
하지만 AI가 실제 업무에 본격적으로 도입되면서 시장의 관심은 성능에서 효율로 이동하고 있는 것 같습니다. 이제 모델의 최고 성능보다 운영 비용과 처리 속도, 전력 소비를 함께 고려하기 시작한 겁니다. 아무리 뛰어난 AI라도 과도한 토큰을 사용해 비용을 높인다면 지속 가능한 서비스가 되기 어렵습니다. 글로벌 빅테크 기업들이 업무 난이도에 따라 서로 다른 모델을 활용하거나, 필요한 만큼만 추론하도록 최적화하는 방식으로 전략을 바꾸고 있는 건 이 때문입니다.
이런 변화가 AI 산업의 경쟁 방식 자체를 바꾸고 있는 것 같습니다. 과거에는 벤치마크 점수와 모델 크기가 경쟁의 핵심이었다면, 이제는 토큰당 비용, 응답 속도, 처리량, 전력 효율이 새로운 평가 기준이 되고 있습니다.
성능 경쟁은 앞으로도 계속되겠지만, 성능만으로 시장을 선도하는 시대는 점차 막을 내리고 있습니다. 더 많은 토큰을 생성하는 AI보다 필요한 만큼만 계산하고 같은 수준의 결과를 제공하는 AI가 더 높은 평가를 받고 있습니다. 앞으로 AI 경쟁은 누가 더 크게 만드는가가 아니라 누가 더 효율적으로 만드는가를 중요해질 겁니다.
배경훈 부총리 겸 과학기술정보통신부 장관이 지난해 12월 서울 강남구 코엑스에서 열린 '독자 AI 파운데이션 모델' 프로젝트 1차 발표회에 참석해 축사를 하고 있다. (사진=뉴시스)