市场直击 06/25 13:02

AI最大瓶颈不是GPU,是GPU调度:少一块GPU,1万块都白搭

Jane Street资深基础设施工程师Jacob Baskin认为,GPU集群的真正瓶颈不在于GPU数量本身,而在于极其复杂的GPU协同调度(NP-hard问题),因为GPU任务高度依赖严格的同步机制,必须进行整体调度而非单点分配,哪怕少一块GPU整个任务就会停摆。