大摩谈液冷技术崛起：英伟达新DGX系统引领“散热革命”

在2024年SIEPR经济峰会上，英伟达首席执行官黄仁勋透露，旗下下一代DGX AI系统将采用液冷散热解决方案。他还暗示新一代DGX服务器"即将到来"。

摩根士丹利分析师Sharon Shih等在报告中指出：

随着人工智能服务器的计算能力不断提高，液冷解决方案的采用率(目前为3%)将会增长。液冷将首先以闭环形式设计冷板(直接到芯片)，然后扩展到机架内(TDP 60-70kw)，侧车(2-3个服务器机架，TDP 200kw)和排(4-8个服务器机架，TDP高达800kw)解决方案，以及数据中心基础设施升级。

英伟达DGX系统是专为AI训练和推理优化、提供极高计算能力的高端服务器解决方案。未来，其将采用液冷技术来支持性能更加强劲的新一代GPU。

液冷散热技术在AI数据中心有着广阔的应用前景，主要有三个原因：

1. AI训练/推理算力需求持续攀升，导致数据中心内算力密度和热密度持续增长。
2. 降低功耗和发热量是提高AI系统能效比的关键。
3. 液冷技术可提供超越传统风冷方案的散热能力。

目前，AI算力需求仍将保持高速增长。此前，国盛证券分析师曾指出，算力时代来临，GPU服务器起量，液冷落地的驱动力发生根本性变革，2024年将是液冷散热的放量元年。