这一次,三星被台积电卡脖子了

半导体产业纵横
三星HBM3E内存尚未通过英伟达的测试,卡在了台积电的审批环节。

在晶圆代工领域,三星与台积电是纯粹的竞争关系,但在存储芯片市场,作为行业霸主,三星却不得不寻求与台积电深入合作,这都是英伟达惹的祸。

据DigiTimes报道,三星HBM3E内存尚未通过英伟达的测试,仍需要进一步验证,这是因为卡在了台积电的审批环节。作为英伟达AI GPU芯片的制造和封装厂,台积电是英伟达验证环节的重要参与者。据悉,台积电采用的是基于SK海力士HBM3E产品设定的检测标准,而三星的HBM3E产品在制造工艺上有些差异,例如,SK海力士芯片封装环节采用了MR-MUF材料技术,三星则是基于TC-NCF技术,这会对一些参数产生影响。

三星在4月表示,其8层垂直堆叠的HBM3E已经在4月量产,并计划在今年第二季度量产12层堆叠的HBM3E,比原计划提前了一个季度。按照三星的说法,为了更好地应对生成式AI日益增长的需求,该公司加快了新款HBM产品的项目进度。

自从HBM问世并量产以来,SK海力士一直是英伟达为其AI GPU配备该类内存的独家供应商,发展到HBM3E版本,依然如此,只是从2024年第二季度开始,另外两家内存大厂才开始加入英伟达HBM供应链。因此,SK海力士是行业霸主,市场份额超过80%。

2022年,SK海力士专为英伟达的H100设计了HBM3,其性能令人惊讶,且HBM在经济上是可行的,并一举确立了行业地位。在这种情况下,三星和美光准备花费数十亿美元来扩大芯片生产能力。最近,三星推出了其12层堆叠的HBM3E,旨在将其与SK海力士和美光的8层堆叠产品区分开来。

在不久前举行的年度股东大会上,SK海力士非常享受它的胜利成果,这家韩国内存制造商表示,HBM必须为客户“定制和专业化”,这是在强调其与英伟达的深厚关系。

同期,三星也宣布了其HBM产量的增长计划,一位高管表示,该公司计划今年将芯片产量增加两倍。英伟达首席执行官黄仁勋(Jensen Huang)在Blackwell产品发布会上表示,正在对三星的HBM3E进行资格认证,黄仁勋这是在侧面敲打SK海力士,以避免供应商一家独大,出现客大欺店的情况。

相对于三星和SK海力士,美光(Micron)晚一年才推出HBM产品,但凭借其在HBM3E版本产品上的“弯道超车”表现,特别是其3D堆叠技术,使HBM3E在有限的空间中,满足高带宽与大容量的需求,有望在HBM竞赛中扳回一城。美光的HBM3E瞄向了英伟达新推出的DGX GH200。

 01 三巨头排队验证HBM3E

作为AI服务器芯片行业霸主,英伟达具有很强的话语权,这使得内存行业厂商不得不顺应该公司的标准和验证要求。而为了实现供应链多元化,英伟达将更多HBM内存厂商纳入了其供应链,作为新进入者,三星的HBM3E正在等待验证通过,而美光和SK海力士已经在2023下半年向英伟达提供了8层垂直堆叠的HBM3E(24GB)样品,并在2024年初通过了英伟达的验证,并获得了订单。

现在,只有三星一家在焦急地等待,因为这三大原厂的HBM3E验证结果,将决定英伟达2024全年HBM供应商的采购权重分配。

2023年,英伟达的高端AI芯片(采用HBM内存)是A100/A800和H100/H800,2024年,其产品组合更多了,除了上述型号,还将再推出使用6个HBM3E的H200和8个HBM3E的B100,并整合该公司自研的Arm架构CPU,推出GH200和GB200。

除了英伟达,另外两大处理器厂商也在加紧拓展AI服务器市场,这将进一步推动HBM内存市场的繁荣。

2024年,AMD出货的主力产品是MI300系列,采用HBM3内存,下一代MI350将采用HBM3E,预计2024下半年开始进行HBM验证,大批量上市将在2025年第一季度。英特尔方面,2022下半年推出的Gaudi 2采用了6个HBM2E,2024年,预计其新型号Gaudi 3仍将采用HBM2E,但用量升至8个。

未来,除了英伟达,AMD和英特尔会使用越来越多的HBM产品,这会给三大内存原厂提供更多商机。

 02 验证的卡点

据分析师和行业观察人士称,在HBM产品验证方面,三星落后的原因之一是其坚持使用被称为热压非导电膜(TC-NCF)的技术,这导致了一些生产问题,而SK海力士则一直采用大规模回流模制底部填充(MR-MUF)技术,可以克服NCF的弱点。

TC-NCF技术已被芯片制造商广泛使用,用于将多层芯片堆叠在紧凑的高带宽存储芯片组中,因为使用热压缩薄膜有助于最大限度地减少堆叠芯片之间的空间。但是,随着层数不断增加,制造变得越来越复杂,因此,经常存在与粘合剂材料相关的问题,芯片制造商一直在寻找替代方案来解决这些问题。MR-MUF是一种环氧树脂模塑化合物,被认为在避免晶圆翘曲方面更有优势。

SK海力士率先成功转向MR-MUF技术,并成为第一家向英伟达供应HBM3内存的供应商。

在SK海力士成功将MR-MUF应用于HBM2E生产后,受到了芯片行业的关注。SK海力士使用的这种化合物是与Namics合作生产的。

MR-MUF用于HBM封装,它对HBM芯片的外部结构有显著影响。SK海力士在创建12层HBM3时,将一个产品中堆叠的DRAM数量从8个(16GB)增加到12个,从而将容量提高了50%。通过这种方式,SK海力士实现了24GB的容量。为了在保持芯片厚度的同时增加容量(堆叠层数),必须将DRAM芯片逐个向上堆叠,这会导致较薄的芯片产生弯曲,MR-MUF封装对于防止这种情况并保持芯片的厚度是有益的。

不久前,有消息人士说,三星发布了旨在处理MR-MUF技术的芯片制造设备的采购订单。消息人士称,三星与包括日本长濑在内的材料制造商进行谈判,以采购MUF材料,使用MUF的高端芯片的大规模生产最早可能要到2025年才能准备就绪,因为三星需要进行更多的测试。

据悉,三星对其HBM内存进行了大规模的MR-MUF工艺测试,结果显示与现有的TC-NCF相比,吞吐量有所提高,但物理特性有所下降。

三星芯片制造部门的一位高级主管在2023年下令对MUF技术进行测试,得出的结论是MUF不适用于HBM产品,最为合适的对象是3D堆叠RDIMM。一般情况下,3D堆叠RDIMM采用硅通孔(TSV)技术制造,主要用于服务器。硅通孔技术是在Wafer或者Die上穿出数千个小孔,实现硅片堆叠的垂直互连通道,而MUF则是上下连接,缩小相互之间间隙的材料,有助于紧密凝固和结合各种垂直堆叠的半导体材料。

据悉,三星计划与SDI合作开发自己的MUF化合物材料,而且已经从日本订购了MUF所需要的相关设备,看起来要推进到下一阶段,以实现更先进的封装工艺,并提高生产效率。

消息人士表示,三星计划在其最新的HBM芯片上同时使用NCF和MUF材料。

但三星并未承认,该公司表示,其内部开发的NCF技术是HBM产品的“最佳解决方案”,将用于其新的HBM3E芯片。“我们正在按计划开展HBM3E产品业务”,三星表示。

如果三星使用MUF为真的话,则突显了该公司在AI芯片竞赛中面临的越来越大的压力。

据悉,另一家内存大厂美光也打算使用MUF材料。

 03 发展HBM4,依然要过台积电这一关

HBM3E的下一个版本,就是HBM4,三星正在加快研发脚步,争取缩小与SK海力士的差距。

不久前,三星公布了HBM路线图,预计2026年的HBM出货量是2023年的13.8倍,该公司表示,到2028年,HBM内存的年产量将进一步上升至2023年的23.1倍。

在代号为“Snowbolt”的第六代HBM芯片HBM4方面,三星计划将缓冲芯片应用于堆叠内存的底层以提高效率。除此之外,还没有更多关于三星HBM4的技术细节流出。

SK海力士方面,在扩充HBM3E生产能力的同时,该公司还与台积电签署了谅解备忘录(MOU),双方就下一代HBM产品生产和加强整合HBM与逻辑层的先进封装技术密切合作,以开发出新一代的HBM4产品。

虽然距离HBM4投产还有两年的时间,SK海力士已经在加速推进第七代HBM产品(HBM4E)的开发工作了,据etnews报道,该公司的HBM先进技术团队负责人Kim Kwi-wook在近日举行的“IMW 2024”活动上分享了下一代HBM的发展方向,表示当前HBM技术已达到新的水平,同时,代际更迭周期也在缩短,从HBM3E开始,由以往的两年变成了一年。

面对竞争,SK海力士的HBM项目正在提速,预计首批12层堆叠的HBM4最快会在2025下半年到来,到2026年还会有16层堆叠的产品,会向更加定制化的方向发展,而HBM4E最早会在2026年投产。这是SK海力士首次提及HBM4E,确认了新标准的存在,据悉,其带宽将是上一代产品的1.4倍。

5月中旬,在2024年欧洲技术研讨会上,台积电表示,将使用其12FFC+(12nm级)和N5(5nm级)制程工艺制造HBM4芯片。

台积电设计与技术平台高级总监表示:“我们正在与主要的HBM内存合作伙伴(美光、三星、SK海力士)合作,开发HBM4全栈集成的先进制程,N5制程可以使HBM4以更低的功耗提供更多的逻辑功能。”

N5制程允许将更多的逻辑功能封装到HBM4中,并实现非常精细的互连间距,这对于逻辑芯片上的直接键合至关重要,可以提高AI和HPC处理器的内存性能。

相对于N5,台积电的12FFC+工艺(源自该公司的16nm FinFET 技术)更加经济,制造的基础芯片能构建12层和16层的HBM4内存堆栈,分别提供48GB和64GB的容量。

台积电还在优化封装技术,特别是CoWoS-L和CoWoS-R,以支持HBM4集成。这些先进的封装技术有助于组装多达12层的HBM4内存堆栈。新的转接板能确保2000多个互连的高效路由,同时保持信号完整性。据台积电介绍,到目前为止,实验性HBM4内存在14mA时的数据传输速率已达到6 GT/s。

台积电还在与Cadence、Synopsys和Ansys等EDA公司合作,对HBM4通道信号完整性、IR/EM和热精度进行认证。

 04 三星寻求与台积电合作

由于英伟达在AI服务器芯片市场处于霸主地位,而该公司的高性能GPU都是由台积电代工生产的,因此,在对HBM内存大厂的产品进行验证时,台积电扮演着重要的角色。此时,虽然是晶圆代工领域的竞争对手,但要在HBM内存市场拓展出更多空间,在进行产品验证时,三星必须面对台积电。

今年4月,三星电子共同执行长庆桂显低调访台,传拜访了台积电,消息人士透露,庆桂显此行的任务中,最主要是推广三星最新的HBM内存。

之前,台积电与SK海力士联手,组成名为“One Team”的战略同盟,共同开发下一代HBM4内存,目标是通过汇集台积电与SK海力士在新一代AI半导体封装上的技术优势,巩固双方在AI市场的地位。

庆桂显此行,对于三星HBM3E产品尽快通过英伟达验证有积极作用,同时,三星也希望台积电能够将其HBM内存推荐给客户,以实现将三星产品整合进更多AI芯片和服务器系统。

本文作者:畅秋,本文来源:半导体产业纵横,原文标题:《这一次,三星被台积电卡脖子了》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。