昨日,英伟达发布了更新后的H200 GPU。该芯片的最大改变来自使用了HBM3e,其带来的提升一览无遗。然而,据韩媒报道,在英伟达发布新GPU之后,一场围绕HBM的争夺战已悄然打响。
韩国双雄,争霸HBM
韩国经济日报在报道中指出,随着美国无晶圆厂芯片设计商英伟达公司周一推出其新的人工智能芯片组 H200 Tensor Core GPU,三星电子公司和 SK 海力士公司等韩国存储芯片制造商对其高带宽内存 (HBM) 销售的快速增长寄予厚望。
报道表示。随着人工智能芯片竞争的加剧,全球最大的两家存储芯片制造商三星和 SK 海力士正准备将 HBM 产量提高至 2.5 倍。
三星存储芯片业务副总裁 Kim Jae-joon 在 10 月份表示,三星电子还完成了与主要客户关于明年 HBM 供应的谈判。
据了解,三星正在向 AMD 提供 HBM3 和交钥匙封装服务。据业内人士透露,这家全球顶级内存芯片制造商还在8 月下旬通过了 Nvidia A100 和 H100 的 HBM3 质量验证;目前尚未正式确认是否向Nvidia供应HBM3。
仅次于三星的全球第二大内存芯片制造商SK海力士则早于今年8月向Nvidia提供了HBM3E的样品,即HBM3的扩展版本。而SK 海力士正在向 AMD 供应 HBM3。
SK 海力士 DRAM 营销副总裁 Park Myoung-soo 也强调:“公司明年第四代 HBM3 产品和第五代 HBM3E 产品的供应量都在增加,并已完全售空。现在更是与客户和合作伙伴就 2025 年 HBM 产量进行生产和供应的讨论也在进行中。”
除了韩国双雄以外,全球第三大 DRAM 公司美光也将从 2024 年开始积极瞄准高带宽内存 (HBM) 市场。市场专家预测,三星电子、SK 海力士和美光之间争夺更大市场份额的竞争将会加剧。
据业内人士透露,美光在上季度的财报电话会议上表示,它已经开发出了业界最好的 HBM3E 产品,并将于 2024 年初开始生产,并创下有意义的销量。HBM3E 是 HBM 的下一代版本,被认为是比当前市场领先产品 HBM2 和 HBM3 更高附加值的产品。
美光正在向包括 Nvidia 在内的主要企业 HBM 客户发送 HBM3E 样品,让他们测试其性能。Nvidia 一直在向 OpenAI、谷歌、微软等公司提供 AI 加速器,其中 HBM 封装在其图形处理单元 (GPU) 中。人工智能加速器是用于推进生成式人工智能服务的服务器的关键组件。
目前,HBM市场由三星电子和SK海力士占据主导地位。市场研究公司 TrendForce 的数据显示,三星和 SK 海力士预计将分别占据 HBM 46% 和 49% 的市场份额,美光将在 2023 年占据其余市场份额。
在这种情况下,美光明年愿意瞄准下一代HBM市场,预计将对三星电子和SK海力士产生负面影响。这是因为美光的 HBM 供应可能会缓解 HBM 短缺问题,并加剧 HBM 制造商之间的价格竞争。鉴于美光是一家美国公司,分析人士表示,英伟达和AMD等大公司可能会青睐与美光同国籍的产品。“随着美光宣布积极进军市场,竞争很可能会加剧,”一位半导体业内人士表示。
美光则透露,英伟达有望在2024年使用其HBM3E。
两大巨头,各显神通
回看HBM的发展,资料显示,该技术从13年开始出现在半导体市场,且已经扩展到第一代(HBM)、第二代(HBM2)、第三代(HBM2E),目前是第四代(HBM3)。
在2021年10月,SK海力士在业界首次成功开发HBM3,通过将其独家供应给在AI用GPU上拥有全球领先份额的英伟达,从而获得HBM市场的领先份额。最近他们还开发了第五代HBM3E,预计从24年上半年开始量产,2026年计划第六代HBM4。
报道支出,SK海力士自从HBM3获得市场领先份额以来,在不断扩大产能,以增强HBM3E等下一代产品的量产能力。在对HBM最大客户英伟达继HBM3独家供应之后,独家供应至第五代HBM3E,确保其在HBM市场的优势。
SK海力士于2023年6月开始HBM3E的样品出货,其拥有广泛领先的性能,能满足开发者需求。首先,该芯片每秒最多可以处理1.15TB(兆字节)以上的数据。与HBM3相比,处理速度提高了1.3倍,容量提高了1.4倍;另外,HBM3在8层层叠中为16 GB,12层层叠为24 GB封装,HBM3E在8层中具有24 GB容量,今后还将开发12层层叠的36 GB的封装。
SK海力士的HBM3E更是应用了“Advanced MR-MUF”的最新封装技术,产品的热释放性能比以往提高了10%。该封装技术从应用到HBM3的现有MR-MUF技术补充了短处——引入了克服芯片翘曲的新技术,并用新的保护材料改善了散热性。
在SK海力士高歌猛进的同时,三星电子已完成HBM3的量产准备。据透露,他们计划2023年下半年开始进入量产阶段。
众所周知,三星不仅是一个名列前茅的存储供应商,也是一个领先的在晶圆代工厂,同时也有封装业务。
为此这种情况下,三星电子不仅利用HBM的内存,还充分利用自己公司的封装技术推动了一起提供到基金业务的周转解决方案。对于SK海力士和美光来说,这是一种将这样的优势攻克为武器的战略,因为他们不拥封装的技术。
对于三星电子来说,“2.5D封装技术”在大大扩大HBM3供应量方面的重要性越来越高。具体来说,就是他们推出的一项被称为“I-Cube”(I-Cube)的技术。根据HBM模块的搭载数,发展为I-Cube 2(搭载了2个HBM)等。
根据三星的规划,到2024年4~6月期间,公司讲量产I-Cube 4,7~9月期间,公司则计划批量生产I-Cube 8。三星电子称,在将该技术与HBM一起提供,可使供应量大大扩大。
正如大家所看到,在HBM中,产能往往成为瓶颈,而三星电子的一系列解决方案有望解决这些问题。目前英伟达和AMD等采用台积电的“CoWoS”技术,但该技术也没有充分增加生产容量。
基于这种情况,三星电子向英伟达提出了封装服务和HBM3供应之前的周转关键服务,但会发生什么还是未知数。
虽然可以用转向钥匙制作产品是其优点,但是从在HBM3中用SK 海力士的MUF技术获得市场领先份额的状况来看,利用三星电子的HBM3的风险很高,其他的危险因素也很多。
美光和台积电,会成为X因素?
如前文所说,美光在HBM市场没有多少影响力。但他们也正在发力。在他们看来,通过技术进步带来的产品性能提升,会是公司发力的根本助推器。
据了解,美光的 24 GB HBM3E 模块基于八个堆叠 24Gbit 内存芯片制造。而改芯片采用该公司的 1β (1-beta) 制造工艺制造。领先的技术让这些模块的数据速率高达 9.2 GT/秒,使每个堆栈的峰值带宽达到 1.2 TB/s,比现有最快的 HBM3 模块提高了 44%。与此同时,该公司不会停止其基于 8-Hi 24 Gbit 的 HBM3E 组件。他们宣布,继开始量产 8-Hi 24GB 堆栈后,计划于 2024 年推出超大容量 36 GB 12-Hi HBM3E 堆栈。
美光首席执行官补充道:“我们预计将于 2024 年初开始 HBM3E 的生产,并在 2024 财年实现可观的收入。”
在美光来势汹汹的同时,台积电也宣布将CoWoS产能扩大两倍(每月1万6000张)。这就意味着三星电子要想成功完成上面讨论的提案,就必须在台积电完成增设的准备工作之前按照英伟达要求的质量和规格成功量产。目前很难期待比TSMC的CoWoS更高的性能,对但三星电子来说这是最后的机会一决高下。
同时,由于三星尚未确定与英伟达的合同,他们在与SK海尼克斯的竞争中苦战仍在继续。
HBM作为今后AI时代的必备材料,在最近记忆半导体的不景气中也有很大的收益性。虽然在内存市场中比例还不大,但据说盈利能力是其他DRAM的5-10倍。尤其是SK海力士在2023年7-9月当季DRAM业务两个季度来首次转为盈余,由此发挥了HBM的威力。HBM市场预计年均最大将扩大至80%。
由此可见。今后HBM的影响力将进一步加大。
本文来源:半导体行业观察,原文标题:《HBM,大战再起》