BlockBeats 뉴스, 8월 30일, Citrini 애널리스트 Jukan은 자신의 정보 소스에 따르면 엔비디아 Rubin Ultra에 채택된 HBM 사양이 12단 HBM4E에서 8단으로 하향 조정될 가능성이 있으며, OpenAI와 Anthropic 등 고객들은 심지어 4단 제품을 요구했지만 메모리 제조사들이 거절했고, 현재 하향 조정은 8단에서 멈출 수 있다고 밝혔다. 그는 하향 조정이 주로 수율 및 원가 압력에 기인한다고 판단했다: 12단 HBM4E를 채택하고 가격 인상을 반영할 경우, 메모리 비용이 Rubin Ultra 전체 부품 원가의 약 70%를 차지할 수 있다.
모델 양자화, MLA 및 계산 작업 분할 등의 소프트웨어 최적화는 저빈도 접근 KV 캐시와 모델 상태를 LPDDR, CXL 및 NAND로 전환시키고 있으며, HBM은 주로 현재 계산에 필요한 작업 세트를 유지한다. 따라서 최소 용량을 충족한 후에는 고객들이 HBM 용량보다 대역폭을 더 중시하기 시작했다.
그는 적층 수를 줄이면 패키징 수율이 향상되고 HBM 및 AI 가속기 출하량이 증가하여 오히려 HBM 총수요가 확대될 수 있다고 판단한다. 또한 더 높은 대역폭 요구는 웨이퍼 내 속도 등급 통과 칩 비율을 낮춰 DRAM 웨이퍼 생산 능력을 추가로 소모시킨다. 장기적으로 볼 때 HBM은 결국 새로운 아키텍처로 대체될 것이며, 최종 방향은 메모리와 로직 칩의 융합이 될 가능성이 높다. 향후 2년은 메모리 제조사들이 로직 분야로 확장할 수 있는지 여부를 결정짓는 핵심 단계가 될 것이다.
