近日,在Hot Chips技术大会上,三星DRAM设计团队的Sangwook Han发表演讲,正式披露三星HBM演进的三阶段路线图。这一路线图的终点,是一种名为zHBM的全新架构——将DRAM直接垂直堆叠在GPU、TPU等计算芯片之上,彻底取消2.5D中介层(interposer)。
据wccftech 8月23日报道,三星方面表示,相较于标准HBM4E,zHBM方案宣称可实现70%的功耗降低、230%的DRAM带宽提升,以及每个DRAM模组节省100W功耗,同时为GPU释放8.3%的额外功率空间。
HBM是什么,瓶颈在哪里
HBM,即高带宽内存,是目前AI训练和推理系统中最关键的存储组件之一。它由两类芯片构成:
-
C-die(核心芯片):包含DRAM存储单元,可垂直堆叠最多16层
-
B-die(基础芯片/Base Die):位于整个堆叠结构底部,负责处理各类DRAM控制功能,并通过PHY(物理接口层)与GPU等计算芯片通信

两者之间通过TSV(Through-Silicon Via,硅通孔)连接——这是一种穿透芯片的垂直导电通道。
据Wccftech报道,当前HBM4每个堆叠的带宽已超过3TB/s,HBM4E进一步推进至4TB/s区间,HBM5则在HBM4基础上将带宽翻倍,容量超过60GB。
然而,带宽的持续扩展正面临两大硬约束:TSV数量与间距的物理极限,以及Base Die内PHY接口的I/O数量与速度上限。与此同时,B-die与计算芯片(xPU SoC)之间的制程代差正在逐代收窄,这既是挑战,也为三星的路线图提供了切入口。
第一阶段:为计算芯片“腾地方”
三星路线图的第一阶段,核心目标是从xPU(计算芯片)那里"抢回"硅面积。
三星已将D1c与4nm逻辑工艺应用于HBM4的Base Die(B-die),主要目的是降低功耗、缩减有效面积。这是DRAM与先进逻辑工艺真正融合的起点。
具体措施包括:
-
用D2D接口替换传统HBM PHY,缩短信道长度,直接改善能效,同时为XPU释放宝贵硅片空间
-
将内存控制器从XPU卸载至cHBM的B-die,预计可为XPU释放5%至10%的面积,对应10%至20%的性能提升
-
引入基于SRAM的细粒度修复方案(Near-MC SRAM-Based Cell Repair),利用B-die上的闲置空间部署SRAM修复资源
面积缩减带来的副作用是热点问题。对此,三星已推出Heat Path Block(HPB)技术,构建于cHBM4方案之上,可将峰值温度降低逾35%,覆盖50%的PHY区域。

第二阶段:B-die开始“长出”计算能力
第二阶段的重点从"腾空间"转向"加功能",三星将其定义为功能扩展阶段。
扩展内存容量。 随着AI大模型的上下文窗口(context window)急剧扩大,KV缓存(Key-Value Cache,模型推理时用于存储中间状态的内存区域)的需求呈指数级增长。三星计划在Base Die的闲置硅面积上集成内存扩展控制器与PHY,通过外接LPDDR或HBM等方案扩充系统可用内存容量。
集成处理单元(PE)。 三星还提出在Base Die上集成部分计算处理单元(Processing Elements),将部分原本需要在xPU上完成的计算卸载至内存侧,从而降低D2D带宽需求、减少功耗与热负担。这一形态被称为AHBM(Advanced HBM,进阶高带宽内存)。
强化可靠性与测试能力。 第二阶段还包括在Base Die上集成先进的RAS(Reliability, Availability, Serviceability,可靠性、可用性与可维护性)传感器与实时遥测功能,以及片上自测试(ATIP)能力,提升良率与测试覆盖率。

第三阶段:zHBM——消灭中介层,DRAM直接压在计算芯片上
第三阶段是整个路线图的终极形态:zHBM。
当前主流AI系统采用2.5D封装架构,GPU与HBM并排放置在同一块中介层(interposer)上,通过横向互连传输数据。zHBM的思路是将这一结构"竖起来"——把DRAM堆叠直接压在xPU芯片之上,形成真正的3D垂直集成。
三星描述的zHBM关键特性包括:
-
分布式I/O:最小化HBM栈内数据传输距离
-
3D结构:消除传统2D接口,大幅提升系统效率
-
I/O功耗目标约0.5 pJ/bit:通过移除SerDes等冗余模块实现
-
带宽提升超2.3倍,系统热余量达100W
三星演示的方案为四栈zHBM叠加在一颗XPU之上。
为实现上述目标,三星正在研发两项关键封装技术:WoW(Wafer on Wafer)与HCB(Hybrid Cube Bonding),以实现超高I/O密度,并最终构建统一的SoC-DRAM协同设计体系。

路线图背后的核心逻辑
三星此次演讲的核心叙事,是将HBM的Base Die从一个"被动的数据中转站"重新定位为"具备主动计算能力的智能伙伴"。
三个阶段的演进逻辑清晰:先通过制程升级压缩面积、释放xPU空间(第一阶段);再利用释放出的空间集成更多功能、扩展容量与计算能力(第二阶段);最终通过3D垂直集成彻底重构系统架构,在功耗、带宽与热管理三个维度同步突破(第三阶段)。
三星在演讲总结中表示:"通过掌握先进封装与统一SoC-DRAM协同设计,我们将突破制约AI系统的功耗、面积与容量瓶颈,为未来数年更高效率、更高性能、更强可扩展性铺平道路。"



