作者：周源/华尔街见闻
尽管英伟达最近股价连续下挫，但GenAI（生成式AI：Generative Artificial Intelligence，也称GAI）为上游高带宽内存（HBM）为存储行业带来了久违的景气度。
HBM占通用内存市场的15%，而2022年这一比例为8%（数据来源：路透社）。
因未来可见的巨大收益，全球顶尖HBM生产商——韩国SK海力士和三星电子，两虎激斗，如火如荼。
目前，海力士在HBM品类上暂时领先。三星的对策是奋起直追以缩小与海力士的HBM差距，同时在CXL（计算快速链接：Compute Express Link）和GDDR 7两个赛道开启新战局。
在这场混战中，美光科技也没闲着，其技术实力也有逆袭可能。
三方混战：美光科技突袭
GAI技术推升了AI加速卡（GPU/ASIC/FPGA）、大语言模型（LLM）和HBM（High Bandwidth Memory）的竞争热度。
其中，HBM是AI加速卡的核心硬件，成本占比最高，所以也成为各方角逐的焦点。
英伟达H100系列AI加速卡，从BOM成本结构看，占比最高的是HBM。目前，H100的HBM由海力士提供，属于第五代，为HBM3。
如此之高的收益，引来SK海力士和三星的同根相煎：双方互有胜负，打得有来有回。总体上，SK海力士暂时领先。
今年1月，海力士开始量产8层第五代高带宽存储器（HBM3E），并取得早期领先。三星电子计划在今年上半年开始量产8层HBM3E；2月宣布成功开发12层HBM3E。
根据既定计划，三星电子将在今年四季度量产HBM3E，向英伟达供货。海力士这次又再次领先，今年二季度向英伟达交付HBM3E原型。但美光科技斜刺里杀将出来，提前取得供应商资格。
2024年英伟达AI加速卡型号在市场中销量最高的是H100，其上搭载的是HBM3（第四代）。SK海力士是最主要供应商，但因为HBM生产周期较长，故而海力士的HBM3产能不足以满足英伟达全部需求。2023年底，三星电子进入英伟达H100供应链，但占比较小。
三星电子的HBM3主要供应AMD，这是三星电子的长期重要的供应策略合作伙伴。目前，三星HBM3陆续通过AMD MI300系列验证。从今年二季度开始，三星电子的HBM3将逐渐放量，主要供应方就是AMD，还有一小部分供应英伟达。
在HBM3的竞争格局中，只有SK海力士和三星电子有技术和量产能力，美光科技没能挤进。其中，海力士占据竞争上风。
2024年，随着英伟达新一代AI加速卡H200和B100量产的逐渐临近，HBM3E将取代HBM3成为竞争主流代际产品。
据TrendForce集邦咨询调查所得，2024年一季度，SK海力士率先通过HBM3E验证，美光科技紧跟其后，并于一季度末递交HBM3E量产品，以搭配计划在第二季末铺货的英伟达H200。
美光科技此举不啻是对海力士的一次背刺，抢先海力士一步，率先获得了英伟达用于新款H200的HBM3E订单。
美光之所以率先获得英伟达用于H200的HBM3E订单，在近期竞争中占据主动，凭借的是工艺上的优势。目前SK海力士占据了54%的HBM市场，而美光仅为10%，但随着手握英伟达的供应协议，形势可能很快会发生变化。
三星电子的HBM3E验证时间稍晚于海力士和美光科技。根据已知信息，三星也将在二季度供货英伟达，但也有消息称三星电子目前尚未进入英伟达H200供应链。对此，三星电子官方没有进一步明确消息。
好在AMD给力。4月24日有韩媒报道称，三星电子和AMD签署了价值4万亿韩元（折合21.77亿美元）的HBM3E 12H供货合同。三星电子宣称，在人工智能应用中，采用HBM3E 12H预计比HBM3E 8H的训练平均速度提高34%，同时推理服务用户数量也将增加11.5倍+。
另外，目前仍没有消息显示三星电子的HMB3良率提升。此前，有未获官方验证的市场消息称，三星电子HBM3的良率至高也没超过20%，而SK海力士则最高达到了70%。
新战场：HBM4+GDDR7
三星电子在HBM3和HBM3E相较于SK海力士甚至美光科技，都有些许落后。于是寄望下一代HBM4。
三星电子的HBM4还在开发中。根据技术路线规划，三星电子HBM4将于2025年首次亮相，但三星还没有公布其HBM4代号，之前的HBM3和HBM3E的代号分别是“Icebolt”和“Shinebolt”。
当然，海力士HBM4也还在开发，合作方是台积电。4与19日，SK海力士宣布和台积电签署谅解备忘录（MOU），推进HBM4研发和下一代封装技术，目标在2026年投产HBM4。
根据双方签署的谅解备忘录，两家公司初期目标是改善HBM封装内最底层基础裸片（Base Die）的性能。
HBM是将多个DRAM裸片（即Core Die）堆叠在基础裸片上，通过TSV（硅通孔：Through-Silicon Via）技术垂直连接而成。其中，基础裸片也连接至GPU，在HBM中扮演重要角色。
在此次与台积电的合作之前，海力士HBM所有基础裸片制造工艺都采用自研技术，但从HBM4开始，基础裸片制造工艺将改用台积电的先进逻辑（Logic）工艺。在封装成片环节，海力士HBM4将尝试采用台积电的CoWoS技术，以满足定制化（Customized）的性能和功效需求。
值得一提的是海力士也像三星电子一样，选择结盟合作伙伴。海力士选择了台积电：今年2月，海力士制定了One Team战略，通过与台积电的合作，建立AI半导体同盟，以期巩固其在HBM领域的领先优势。
可见，海力士选择台积电是因为后者的制造和封装能力，而三星电子自己就有与台积电相类似的技术，故而三星电子的合作方选用供应链的直接客户。
与台积电CoWoS封装技术不同，三星电子采用的是TC-NCF（Thermal Compression with Non-Conductive Film），也就是非导电薄膜热压缩。
三星电子在描述这项技术时说：“这种方法的优点是可以最大限度地减少随着层数增加和芯片厚度减小而可能发生的翘曲，使其更适合构建更高的堆栈”。
今年2月，三星电子更新此项技术至“Advanced TC-NCF”，能减少TC-NCF工艺中必要薄膜的厚度，从而在保持HBM高度的同时增加半导体层数。
三星HBM3E层数多达12层（H），实现了业界最小的 7 微米 (um) 芯片间距，是目前HBM市场中层数最大的产品，这是TC-NCF封装技术的结果。
三星认为，HBM市场仍处于早期阶段，预计市场格局将迅速发生变化。三星电子的策略是通过预测市场发展并提前主动规划和开发必要的产品来保持领先地位。
值得一提的是，三星和 SK海力士在GTC 2024上展示了即将推出的GDDR7内存解决方案，有望比预期更早进入市场。GDDR7将提供更高的带宽和更低的功耗，为即将推出的显卡提供性能显著的提升。
美光科技预计GDDR7解决方案将于2024年底推出，以符合JEDEC标准。SK海力士和三星已展示产品。据三星称，GDDR7速度将高达32 Gbps，而SK海力士则表示将提供高达40 Gbps的GDDR7芯片。
