英伟达推出的GB200 NLV4,填补了关键的市场需求。并且,英伟达还计划在2025年3月17日至20日的GTC大会上发布其下一代GB300 AI服务器平台,搭载新款B300 AI GPU,功率高达1400W,FP4性能是B200的1.5倍。
近日,英伟达推出了中端平台GB200 NLV4,配备Grace CPU和Blackwell GPU,在性能和能源效率之间取得了平衡,专为现代数据中心设计。
分析认为,GB200 NVL4的推出正值英伟达重塑其产品组合之际——逐渐淘汰旧款NVL平台,转向更加先进的选项,如NVL4。
对于中型规模的,或者注重能源效率的组织而言,GB200 NVL4是一个非常合适的选择。与专为大规模部署设计、并具有边缘连接器以支持主干配置的NVL72相比,NVL4提供了一个更紧凑、更注重能源效率的替代方案。
平衡性能与能源效率
GB200 NVL4的核心是两颗基于Arm架构的Grace CPU,每颗CPU配备72个Arm Neoverse V2核心,两颗CPU合计提供144个核心,提供执行高性能任务所需的计算能力。此外,GB200 NVL4还搭配四个Blackwell GPU。
分析师表示,这一配置特别适合AI、高性能计算(HPC)和其他数据密集型应用。
另外,GB200 NVL4还在每颗CPU下方配备了六个MCIO连接器,确保其提供快速的PCIe连接,从而支持无缝的数据传输。这些连接器支持网络接口卡(NIC)、固态硬盘(SSD)和其他关键组件的集成,使系统具备灵活性和可扩展性。
内存方面,GB200 NVL4提供最多1.3 TB的联合内存,专为内存密集型工作负载的组织设计,确保了数据的高效处理。
除了强大的性能外,GB200 NVL4的另一大亮点是其能源效率。
英伟达预计,完全配置的服务器将消耗约6kW的电力。虽然这一功耗不容小觑,但相比英伟达早期的系统,如DGX-1或HGX-1,功耗大约为3.5kW,GB200 NVL4的功耗仅为一半左右。
明年还将推出GB300?
据报道,英伟达计划在2025年3月17日至20日的GTC大会上发布其下一代GB300 AI服务器平台,搭载新款B300 AI GPU,功率高达1400W,FP4性能是B200的1.5倍。
目前,英伟达的GB200 AI使用的是192GB HBM3E内存,采用8层堆叠配置,据UDN消息透露,GB300将使用288GB HBM3E内存,采用12层堆叠,这一技术由SK hynix开发。
GB300 AI服务器平台的快速连接组件和网络卡也得到了升级,光模块的速度从800G提升到了超快的1.6T。UDN报道称,性能和设备“在各个方面都得到了提升”,是英伟达的“市场制胜武器”。
此外还有一些升级,如采用插槽设计、计算板将使用LPCAMM,电容托盘可能成为下一代GB300 NVL72 AI服务器机柜的标准配置,UDN还提到,BBU(备用电池单元)“可能是可选的”。
无疑,这样豪华的配置,预计组件的成本将相当可观。
分析师预计,BBU模块的大规模生产价格约为300美元,而GB300 AI服务器的BBU总价可能会达到1500美元。预计超电容器的生产成本在20到25美元之间,而GB300 NVL72 AI服务器机柜需要超过300个超电容器。