7*24 快讯

扩散语言模型端侧落地提速:DiffuSpace联手Acrab将Agent运行提速5倍

9月1日,扩散语言模型(dLLM)团队扩散智能(DiffuSpace)与智能体计算平台Acrab达成战略合作,推动dLLM在AI PC、智能汽车等端侧场景落地。测试显示,该方案可将端侧Agent运行提速5倍。随着谷歌、蚂蚁等巨头入局,业内预期dLLM或在两年内替代GPT类自回归模型。

区别于GPT逐词生成的线性逻辑,dLLM采用“全局生成”与并行解码机制。该机制能充分释放端侧芯片的并行算力,在代码生成等任务中实现多步骤并行推演与实时调整,此系业内首次实现dLLM与端侧计算平台的系统级协同。

扩散智能由港大NLP实验室核心成员创立,其Dream 7B模型在规划能力上已比肩671B的DeepSeek V3;Acrab累计融资超4.8亿美元,其700 TOPS算力的端侧AI芯片已进入产业量产。(硬AI)