昨日英伟达又放大招。
CEO黄仁勋在COMPUTEX大会上抛出多个重磅信息,其中最为引人瞩目的无疑是搭载256颗GH200 Grace Hopper超级芯片的新型DGX GH200人工智能超级计算机,堪称“算力杀器”。
先说一下这个超级芯片,Grace Hopper采用最新的CPU与GPU一体设计方案,作为超级计算机,一台集成了256颗Grace Hopper芯片的DGX GH200显存总和达到144TB(通过交换网络实现显存共享),在第四代NVLink加持下,GPU互联带宽达900GB/s,总算力达到1 exaFLOPS@FP8,完美适配大规模的AI训练/推理需求。
此外,英伟达还发布了世界上第一个AI以太网网络平台Spectrum-X,其中的RDMA技术可用于跨服务器显存共享;2022年亮相的Spectrum-4交换机也正式量产,可以连接分布在两层网络的8192个GPU,交换速率达到51.2T。
配套交换网络可能成为短板
此前光通信CPO成为服务器产业链中最亮眼产业链。国盛证券最新研报表示,随着带宽提升,新架构对光模块的需求弹性也在上行,超算中心内部通信能力的木桶效应将进一步被放大。
“木桶效应”指的是一个系统的整体效果往往取决于最弱或最短的一环。想象一下一个木桶,它是由许多木板(也叫桶板)组成的,木桶能盛多少水,并不取决于最长的木板,而是取决于最短的那块木板,因为水会从最低的地方溢出,这就是“木桶效应”。
国盛证券表示,市场普遍忽略了交换网络的重要性。英伟达Infiniband一季度营收创纪录,据英伟达测算,若企业支出5亿美元建设交换网络,Infiniband和以太网的吞吐量差异是15%-20%。同时,Infiniband更加适合GPU负载,适配Infiniband协议的光模块单价也更高,将进一步提升光模块在超算中的价值量。
资料显示,英伟达的InfiniBand解决方案是其重要的产品之一,英伟达的InfiniBand解决方案包括InfiniBand交换机、InfiniBand网卡等硬件设备,以及相应的驱动程序和管理软件。这些产品可以为用户提供高性能、低延迟的网络连接,帮助用户实现大规模并行计算、大数据处理等复杂任务。这些产品在高性能计算、人工智能、机器学习、大数据等领域有广泛的应用。
另外,交换机是交换网络的核心设备之一,值得一提的是,它与最近市场大火的CPO其实有一定联系,它们是搭配使用的。
传统的数据中心网络中,光模块和交换芯片(交换芯片为以太网交换机核心部件)通常是分开封装的,数据需要在两者之间进行多次电-光和光-电转换,这会导致能耗增加和传输速率下降。而在CPO技术中,通过将光学组件和交换芯片共封装,可减少数据传输的距离和复杂性,从而实现更高的传输速率和更低的能耗。
下面我们重点来介绍一下交换机。
什么是交换机?有啥作用?
据中信证券研报,交换机是搭建网络的核心设备之一,主要目的为扩大网络覆盖范围,能为子网络提供更多的连接端口,以便连接更多的服务器、计算机、移动终端及物联网终端。
交换机的主要功能是接收来自一个设备的信息,并将这些信息准确地发送到目标设备,而不是广播到网络中的所有设备,这就提高了网络的效率和安全性。
打个比方的话,你可以把交换机想象成邮局的邮件处理中心,假设每个人都有一个唯一的地址(网络中为IP地址),当你想给某个人发送信件时,你会把信件投入邮筒(这就像一个设备发送信息到交换机),然后邮件处理中心(交换机)会根据信件上的地址(IP地址),把信件准确地送到目标地址的邮箱(目标设备)。不需要把信件投递到每个邮箱去查看是不是对方的,这样既提高了效率,又保证了信件的私密性。
交换机的出现主要是为解决在大规模网络环境下,传统的网络设备(如集线器)因广播方式导致的网络效率低下和安全性问题,因集线器在接收到信息后,会把信息广播到所有连接的设备,这就导致网络拥塞,而且任何设备都可以接收到所有的信息,这就有可能泄露私密信息。而交换机则通过准确地将信息发送到目标设备,解决了这些问题。
银河证券认为,新技术新应用催化流量高增,新基建下交换机需求有望超预期。
具体来看,随着全球数据流量增长,互联网设备接入数量快速增加,同时人工智能、云计算在内的各种新技术不断出现,AR、VR、车联网等应用不断落地,进一步带动全球互联网数据中心建设需求不断增长。全球数据总量由2021年70ZB将增长至2025年175ZB,年均复合增长率高达25.74%,全球网络设备市场需求保持持续向好发展。
其认为,新基建相关产业链景气度有望提升,ICT基石光网络作为新基建的主要设备,包括交换机、光模块、光纤光缆、节能等需求进一步增长,有望迎来市场新增量。
相关产业链
据中信证券研报,交换机产业链的上游是部件供应商,主要包括交换机芯片、CPU芯片等。其中以太网交换芯片是以太网交换机的核心部件。全球以太网交换芯片自用厂商以思科、华为等为主,其自研芯片用于自产交换机并对外销售。全球以太网交换芯片商用厂商主要包括博通、美满、瑞昱、英伟达、英特尔等。
交换机产业链的中游是交换机设备商。据IDC数据,2021年行业内主要厂商思科、华为、Arista、新华三、HPE、Juniper的以太网交换机在全球的份额分别为45.3%、10.2%、7.6%、6.1%、6.1%、2.9%。此外,锐捷网络也是交换机领域的重要设备商之一,2021年锐捷网络以太网交换机在中国的份额为14.6%,仅次于华为和新华三。
交换机产业链的下游包括运营商、云厂商、大型企业等。据Arista预测,大型云厂商将是驱动数据中心交换机市场规模扩大的核心。