Arm CEO Rene Haas表示AI爆发后GPU受追捧,CPU被忽视。
但无论训练推理,CPU始终是系统心脏,负责token的调度、分发与仲裁。推理数据海量,CPU编排更关键,需求更大。
从数据中心到边缘设备,CPU都是基础,尤其在低功耗场景下Arm优势明显。AI越强,CPU越重要,它是支撑整个生态的枢纽。
Arm CEO Rene Haas表示AI爆发后GPU受追捧,CPU被忽视。
但无论训练推理,CPU始终是系统心脏,负责token的调度、分发与仲裁。推理数据海量,CPU编排更关键,需求更大。
从数据中心到边缘设备,CPU都是基础,尤其在低功耗场景下Arm优势明显。AI越强,CPU越重要,它是支撑整个生态的枢纽。