HBM 독주 계속된다

인텔·오픈AI “CXL, HBM 대체 어려워”삼성 zHBM·하닉 PIM…차세대기술 경쟁

[뉴스토마토 이보라 기자] 인공지능(AI) 시장에서 고대역폭메모리(HBM)의 독주가 이어질 것이라는 전망이 나왔습니다. 대안으로 거론됐던 컴퓨트익스프레스링크(CXL)가 실제 AI 구동에서는 HBM을 대체하기 어렵다는 평가입니다. 이에 따라 전 세계 HBM 시장을 사실상 양분하고 있는 삼성전자(005930)와 SK하이닉스(000660)의 독점적 입지도 한동안 이어질 것으로 전망됩니다. 삼성전자는 HBM의 구조를 바꾸는 zHBM을, SK하이닉스는 메모리 내부에서 연산하는 PIM을 제시하며 차세대 AI 메모리 기술 경쟁에 나섰습니다.

 

김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무가 16일(현지시각) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 발표하고 있다. (사진=연합뉴스)

 

16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 ‘AI 인프라 서밋’ 패널 토의에서 인텔과 오픈AI 기술진은 CXL이 고대역폭메모리(HBM)를 대체하기 어렵다는 견해를 밝혔습니다. CXL은 AI 가속기와 메모리를 효율적으로 연결하는 차세대 규격으로, 업계 일각에서는 가격 부담이 큰 HBM을 일부 대신해 AI 서버 구축 비용을 낮출 수 있다는 기대가 나온 바 있습니다.

 

그러나 비디아 티아가라잔 인텔 시스템온칩(SoC) 아키텍처 총괄은 “CXL을 거쳐 그래픽처리장치(GPU)로 오가는 데이터 속도가 결코 HBM만큼 빠르지 않다”고 지적했습니다. 그는 CXL로 메모리를 연결하더라도 HBM을 대체하기보다는 보조기억장치를 보완하는 수준이라고 평가했습니다. AI 가속기 설계를 담당하는 대니얼 모리스 오픈AI 연구원도 “AI 모델을 실제 구동하는 입장에서 CXL의 쓰임새를 찾지 못하겠다”고 했습니다. 그는 거대 모델에서 자주 쓰지 않는 비활성 데이터를 별도로 보관하는 용도는 가능하지만, 실제 모델 구동에 특화한 활용 사례는 보지 못했다고 설명했습니다.

 

이에 따라 글로벌 HBM 시장을 사실상 양분하고 있는 삼성전자와 SK하이닉스의 독점적 입지가 한동안 이어질 것으로 관측됩니다. 카운터포인트리서치에 따르면 올해 2분기 글로벌 HBM 시장 매출 점유율은 SK하이닉스가 50%, 삼성전자가 33%입니다. 삼성전자는 전 분기(21%)보다 12%포인트(p) 점유율을 높였습니다. 

 

삼성전자는 이날 행사에서 AI 가속기 위에 HBM을 직접 쌓는 차세대 메모리 구조 ‘zHBM’을 소개했습니다. 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 “대화형 AI 시스템의 응답 속도는 이용자당 초당 100토큰 수준”이라며 에이전트형 AI를 위해 초당 1000토큰으로 높이겠다고 밝혔습니다. zHBM은 가속기 옆에 HBM을 배치하는 기존 방식보다 데이터 이동 거리를 줄여 처리 속도와 전력 효율을 높이는 구조입니다. 김 상무는 가속기와 메모리를 수직으로 연결하는 방식에 대해 “호텔 객실 내에 1층 로비로 직행하는 전용 엘리베이터를 두는 것”이라고 비유했습니다. zHBM은 HBM5 대비 최대 8배 성능과 3배 이상의 전력 효율을 구현할 수 있다는 설명입니다. 

 

임의철 SK하이닉스 설루션AI 담당 부사장이 16일(현지시각) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 '연산 가능 메모리'(PIM) 기술에 대해 발표하고 있다. (사진=연합뉴스)

 

SK하이닉스는 메모리 내부에서 직접 연산하는 ‘연산 가능 메모리(PIM)’를 제시했습니다. 임의철 SK하이닉스 부사장은 이날 발표에서 “S램 기반 체계는 높은 대역폭을 제공하지만 용량과 비용 측면에서는 명확한 한계가 있다”며 “PIM은 같은 면적에서 S램 대비 약 300배에 달하는 대용량을 제공하면서도 높은 내부 대역폭을 유지한다”고 설명했습니다. PIM은 데이터를 가속기로 옮겨 계산하는 대신 간단한 연산을 메모리 내부에서 처리하는 방식입니다. 임 부사장은 “메모리 다이와 연산 다이를 따로 제작해 수직으로 연결하는 하이브리드 본딩으로 용량과 비용 문제를 해결할 수 있다”고 밝혔습니다. GPU와 HBM 조합에 더해 PIM·고대역폭플래시(HBF) 등을 활용하고, 하드웨어와 소프트웨어를 함께 최적화해야 한다고 강조했습니다.

 

기술개발과 별도로 SK하이닉스가 미국에서 메모리를 생산하기 위해 인텔과 협의하고 있다는 소식도 전해졌습니다. 로이터는 전날 인텔이 오하이오주에 짓고 있는 공장 일부를 SK하이닉스가 빌려 쓰거나, 인텔·대형 클라우드 기업과 합작사를 세우는 방안이 논의되고 있다고 전했습니다. SK하이닉스는 아직 결정된 것은 없다고 밝혔으나, 늘어나는 메모리 수요에 대응하기 위해 추가 생산기지 설립을 포함한 다양한 방안을 검토하고 있다는 입장입니다.

 

업계 관계자는 “AI 서비스에 따라 필요한 용량과 성능이 달라 여러 메모리 기술을 함께 쓰는 방향으로 갈 것으로 본다”면서 “차세대 제품의 성능과 함께 고객이 요구하는 물량을 안정적으로 공급하는 능력도 중요하다”고 했습니다.

 

이보라 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.