新词元经济的时代,摩尔线程应该做什么?

WAIC
摩尔线程“词元时代 万物智能论坛”主题论坛 时间:2026年7月18日 地点:上海世博展览馆1B会议...

摩尔线程“词元时代 万物智能论坛”主题论坛

时间:2026年7月18日

地点:上海世博展览馆1B会议室

演讲人:摩尔线程创始人、董事长兼首席执行官张建中

尊敬的各位领导、各位来宾、各位企业家朋友、各位生态合作伙伴、各位媒体朋友们,大家上午好!

感谢大家抽出宝贵的时间参加2026上海世界人工智能大会摩尔线程主题分会。今天的主题叫"词元时代 万物智能",我想花一点时间给大家解释一下,在新的词元经济的时代,作为摩尔线程我们在新时代当中应该做点什么?

首先跟大家分享一下,过去15年的历史,可能很多人都知道人工智能是最近这几年蓬勃发展,实际上从15年前开始的时候,人工智能的早期就是一个感知AI(Perception AI),感知AI发展到今天,我们再去看5年前的时候,也就是摩尔线程刚刚成立的时候,那个时候生成式AI(Generative AI)蓬勃发展,到今天生成式AI几乎无处不在。而今天,我们已经身处Agentic AI(智能体/代理AI)蓬勃发展的时代。今天几乎所有的人人人都可以用AI。我们看过去的三个阶段:

首先是感知AI(Perception AI)时代。那时候普通人很难直接接触AI,也很难去理解和编程,需要专业人士通过复杂的开发,才能把人脸识别、语音转文字等感知能力带到我们身边。

到了生成式AI(Generative AI)时代,也就是摩尔线程刚刚成立的时候,这时候使用AI变得方便了一些,但依然有门槛,因为你需要懂得如何写Prompt(提示词),Prompt Engineering(提示词工程)成了一门技术活。

而今天,我们已经身处Agentic AI(智能体/代理AI)蓬勃发展的时代。Agent可以帮你干活,你只要发号施令就可以了,你会发现今天的AI为什么蓬勃发展,因为人人都可以使用AI。

那么,Agentic AI的下一步是什么呢?有人讲物理AI,有人讲AGI,还有人讲ASI,不管你认为是哪一种概念?下一步一定是AI跟我们的人能够亲密接触,我们把它叫物理AI,也就是Agentic AI的下一步。

在这场从感知、生成、代理到物理AI的演进中,每一步的发展都离不开一个关键的技术加速器——Universal GPU,摩尔线程把它叫做全功能GPU,摩尔线程的成长也是全功能GPU的发展史。

在今天的Agentic AI时代,为什么大家会突然发现Token的消耗量呈现出暴涨态势?这种暴涨甚至不是一倍两倍。我们知道每个人的时间都是有限的,你的消耗Token的数量从1变成2倍、3倍、4倍大家都能理解,但是变成10倍、100倍,甚至是上千倍、上万倍就很难理解。根本原因就是因为已经不是我们在用AI,是我们的Agent在用AI。换句话说,我们的代理,我们的分身在使用大模型,它们的速度远远超出我们的想象。

举个例子,普通人最快的阅读速度我们说一目十行,可能也就是几十个字,但是对于AI来讲,你们家所有书柜全柜的书给它,可能几分钟之内它就看完了。这种超乎人类极限的阅读、生成、理解与计算速度,让Token的消耗量自今年年初以来,无论是按月对比还是按天对比,都在呈指数级增加。

我们这里有几个数据,2026年初,OpenClaw刚火的时候,日活的Token数大概是140万亿,Scaling从算力的角度去看越大越好,因为Scaling Law依然成立的。也恭喜KIMI昨天发布的KIMI K3,KIMI K3的参数是2.8万亿,相比之前国内的前沿大模型公司大概是1万多亿个参数,参数量扩大了一倍多,我们知道参数量在不增加,如果说算力基础不能增加,那么它们训练的时间和时长就很难保障,所以大型基础设施成为训练模型的核心关键。

在这个基础上,我们希望为AI发展提供支撑。如果我们把AI产业转换成是对应的“AI工厂”,这个工厂到底分几种?就像传统的工业生产一样,工厂有很多不同的种类。在AI现阶段,我们可以把它暂时分为三类工厂:

一类工厂叫做模型训练工厂,它专门训练不同的模型。第二类叫词元生产工厂,它是生成各种不同模型的Token服务。这两个是大家经常听到,容易理解的工厂。第三类工厂可能很多人没有注意,那就是Agent(智能体)生产工厂。我们今天看到的机器人以及看不到的数字人,它们的智能从哪里来?如果没有一个好的工厂帮它们去训练这些Agent的思维方式和思维方法,你是很难判断这个Agent的智能能力能不能达到人类提出的任务要求。

这三个工厂简单来讲叫模型训练工厂、词元生产工厂和智能体生产工厂。我们按照这三个工厂分别给大家拆解一下摩尔线程在这三个工厂里的战略布局,以及我们能为这样的三个工厂提供什么?

1、 模型训练工厂

首先是模型训练工厂。大模型训练工厂是一个非常复杂,难度系数很高,而且要求非常高的工厂。因为所有的模型,能不能达到Frontier model(前沿模型)的水平,它的Benchmark和它的精度、能力,甚至于它能干的所有的各种不同的事情,这个完全取决于模型工厂的基础设施能力。当然我们都知道算力数据和算法三要素,其中算力就是这个基础设施当中最核心的,你的算法再好,数据再多,没有一个好的稳定的训练工厂,这些是办不到的。

所以在模型训练工厂当中有几个点非常重要:第一,它是不是“全功能”。因为你不知道下一个要训练的模型是什么。比如说,大语言模型发布之后,能不能尽快把下一个模型扩展到多模态?大家现在已经不满足于单纯的语言模型了,多模态能力已经成为必需。仅仅多模态还不够,因为未来还要训练各种各样和人类工业生产生活相关的模型,包括跟物理、科学研究、数学相关的模型,甚至是与我们日常世界打交道的世界模型。除此之外,今天文生图、文生视频已经非常广泛了,这些模型也都应该能够在工厂里面训练。当然,训练质量高不高、精度好不好,能不能做到高质量、高产出、高稳定性,对模型训练工厂的要求都非常高。

那么,摩尔线程在模型工厂当中,我们如何去打造一个优秀的模型工厂的基础设施。首先,你必须要有全套的软件栈,除了万卡集群之外,软件栈是否能齐备?摩尔线程提供全链路的训练套件,我们从底层MUSA开始,在MUSA的SDK基础上,把全行业当中所有的各种各样的算子都能兼容进来。首先是PyTorch,因为Torch是开源的,所以Torch-MUSA里面的所有算子能够自动接入。中国的AI应用,现在已经开始形成自己强大的生态,比如说Triton在中国的应用也非常普及,所以我们有Triton-MUSA。再一个是北大团队开源的算子生态TileLang。随着DeepSeek的使用和普及,TileLang的应用也非常广泛。所以你会发现无论是Torch、TileLang还是Triton,在摩尔线程训练的底层软件库当中,我们都能够完整接入我们的训练套件。

有了这些算子,加上Transformer的引擎,就可以支持所有的训练框架。训练框架大部分人用Magatron-LM,有的人还在用DeepSpeed,哪怕你是用FSDP去训练各种不同的模型,这些开源框架在我们的平台上都可以完美支持。当然,有的客户自定义一些自己的训练框架,我们底层软件也可以为他提供更好的支持。

训练一个模型能不能成功,成本是很高的,动辄几亿甚至是上十亿,这么大的成本投入,在开始训练之前,如果能有一个很好的仿真模拟,让你提前知道大概要花多长时间,训出来的结果怎么样,就必须提供一套仿真工具。所以摩尔线程有一套MT-HTA仿真系统,包括 SimuMax 和 SimuInfer,帮你在训练和推理前就能评估,大概需要花多长时间能够完成训练任务。

当然要把这些做好,在基础模型训练完或者是预训练结束之后,怎么样让模型的效果和性能更好,强化学习是行业里面解决这个问题最好的解决方案。所以摩尔线程也把行业当中常用的两种强化学习的框架完整的适配在我们的MUSA平台基础之上,一个是VeRL,一个是Slime,我们有MT-VeRL和MT-Slime。这两个版本用户可以从Github直接下载到本地,就可以去训练你自己的模型。

整个这套模型训练套件,加上夸娥万卡集群,你就基本上拥有了一个模型工厂。我们有一些训练的技术参数和指标,大家可以到我们的官方网站上获取,无论是收敛Loss值,还是最后模型训出来的质量,都可以跟全球最先进的训练平台相媲美。

这里我们重点来看几个具体的优化点:

第一个是MoE模型的训练优化。训练过程中,我们已经把行业中开源的先进技术专门优化放到我们的平台里了。这是用KIMI的框架去训练一个类似的MoE模型。我们把底层技术,完整结合在训练平台当中。所以,无论你是DeepEP通信库还是算子融合,以及在摩尔线程S5000上特有的FP8的优势,结合起来我们可以原生支持Per-Block的FP8的算力,让算力极大提升。

第二个是强化学习的优化。强化学习是让模型获得更好性能的关键。强化学习当中最怕的是什么?就是强化学习之后模型质量会不会下降,或者是过拟合之后,可能模型就学不到新的东西了。摩尔线程从两个方面帮助大家去提升强化学习的效果:一种是同步与异步,我们都可以支持。有的人喜欢用训推同步和训推异步的方式去强化学习我们的模型。在异步情况下,它的性能可以提升得更快。如果说我们采用训推一体和训推分离的方式,你会发现,无论是训推一体还是训推分离,你都可以让我们的强化学习持续提升它的模型Benchmark成绩。这里有两个例子,一个是DeepSeek,一个是Qwen千问。在这两种常用的MoE模型当中,你会发现强化模型是非常有价值的。你可以从Benchmark分数看到,大概在不到100步之后,成绩就可以从0.65一直到0.8、0.85的样子。这个提升是非常显著的,很多模型都可以利用强化学习在后期把品质做到位。

第三个是超大模型的实战案例。这个案例是我们跟某国家级实验室合作,在我们的万卡集群上训练一个236B的模型。参数量只有236B,但是经过强化学习之后,模型质量已经达到了业界比较领先的模型水平。这是236B模型训推的效果,我们问它同样的问题,右边是国内目前最优秀的模型的输出,这个是GPT5.6的输出,你们看一下模型训练的结果,反而国内自己训练的MoE-236B模型逻辑上更加清晰。如果说不看是哪一个模型,我相信大家去盲测之后,236B的模型反而是最好的。这说明,在国产的大规模集群上搞模型训练,其实今天也已经做的很好了。

我经常听到国内的模型公司担心,用国产的训练平台会不会耽误时间,会不会影响追赶世界先进水平,其实大家大可放心,因为我们有更好的硬件平台和先进的软件技术,同时有大量的实验结果支持,大家可以真正放心去投入到国产模型在国产芯片上去训练。还有一个好处,摩尔线程随时可以为用户提供本地化服务,这肯定比国外公司做得更好。所以,我们也特别鼓励企业、政府、单位甚至是个人,都可以训练自己的模型,因为有开源模型、私有数据、本地算力,这样我们的AI就有自己的主权。因为未来企业之间的竞争,就是你的Knowhow、数据、客户,如果说这些你把它变成别人模型的知识,你的企业就失去了你自己的特色,所以我鼓励大家去做更多的企业级AI。

除了这些模型之外,我再举几个物理与多模态模型的例子。

一个是Wan。它是典型的开源的ViT模型,可以做Diffusion跟文生视频的各种不同的效果。Wan的效果很不错,大家都知道Seedance、可灵等等,很多都是基于Wan的方式去修改的视频生成类模型。其实有足够的数据,大家都可以去训练类似这样的模型。我们用S5000去训练,一个千卡级的集群就可以了,训练出来的效果跟国际主流产品效果,基本上是一样的。

另一个是我们和北京智源研究院联合完成的RoboBrain2.5具身大脑模型的训练,他们也是在S5000千卡级集群上进行训练,训练出来的效果是媲美国际主流水平。训练出来的效果可以媲美全球最好的同类具身智能模型,大家可以去他们的官网或 GitHub 下载。还有一个是我们和北京大学联合训练的世界模型,这个世界模型是EvoPhys-World 5D世界模型,他们已经连续30多天在WorldScore的榜单当中排名第一位。各种各样的模型训练,很多例子已经能证明在国产大的算力集群上去训练模型已经是非常成熟、非常稳定的事情。

2、 词元生产工厂

接下来,我再跟大家讲讲词元工厂。

对于词元工厂,大家经常关心的事情就是,如何降低每个Token的成本。词元工厂怎么能做到很快适配,来一个新的模型,能不能很快就在工厂里部署服务,成本能不能降到最低,这是最典型的用户痛点,怎么去解决呢?

首先,我们要提供一套完整的软件栈,怎么让模型适配的更快,让模型的成本降得更低,你必须得有大量的软件基础设施。摩尔线程在夸娥平台基础之上,原生可以支持SGLang和vLLM两个推理框架。这两个推理框架的开源社区,能够无缝连接在MUSA基础设施当中,这里面可以支持各种各样的推理场景,你可以用Torch去直接推理,也可以用SGLang,也可以用vLLM,也可以用摩尔线程自己的推理引擎MT-Transformer跟TensorX等。

除此之外,我们还支持以前很多视觉模型当中的推理场景,比如说ONNX、TensorFlow等等,我们的软件栈都可以完美支持。这样,无论是老用户还是新用户,或者是AI1.0和2.0的用户,都可以在我们的国产计算平台当中获得支持。比如说,百度开发的PaddlePaddle,如果有用户在使用,也可以无缝连接到我们的平台当中。

还有一些应用场景,针对大家经常关心的KV Cache的性能和效率,我们也在推理平台里,把常用算子、融合算子和超大算子的效率都提升到极致,目的就是帮大家把成本降到最低。

为了做得更好,在大模型推理当中,今天国内的五大主流开源模型,包括大家常用和不常用的模型,我们都可以完美的在整个词元工厂的流水线中,实现很好的支持,不仅跑得顺畅,效率也更高。

除了在同一颗芯片上做极致优化,在异构计算平台中,我们也可以为大家提供更好的推理效果。给大家看几个例子,一个是GLM模型,我们的效率跟国际主流产品相比,在某些方面甚至能超过它,精度上也能对齐,所以大家不用担心推理最终呈现的效果。在DeepSeek模型当中也是如此,一些新的Frontier model(前沿模型)也可以很快在我们的平台上大家更好的效果。

大家都知道在国内有很多人用国际主流GPU产品做推理,你用摩尔线程的MTT S5000,它的硬件规格可能是对方一半左右,但你会看到它基本上能达到同等的推理水平;而且在某些场景下,随着 Batch Size(批大小)的增加,整体吞吐量是在线性增长的。

我们再看另外一个方面,除了同构推理,词元工厂服务的模型种类很多,有的模型需要大算力,有的模型需要大带宽,有的模型需要低延迟,怎么把它们组合在一起呢?异构推理就是一个很好的解决方案。

尤其是有很多客户,以前已经买了很多各种不同品牌和不同规格的算力产品,今天有了新的应用之后,如何去发挥它的Installed Base(存量设备)剩余价值,异构就成了最好的解决方案,能让以前买的东西不会浪费。

所以,通过各种各样的组合,用PD分离(Prefill/Decode 分离)、AF分离的方式,可以发挥各种不同芯片各自的特色。

我们这里有一个很简单的例子,把Prefill(预填充)放在S5000上计算,把Decode放在已有的国际主流计算卡上。这样异构组合之后,你会发现去跑大模型,假设原来的性能是1,今天的吞吐量可以提升到近2倍,所以1+1不是等于2的问题,而是1+1是远远大于2,这就是一个很神奇的地方。

这里有一个简单的公式,大概3台S5000+2台Hxx=9台Hxx。你可以想象一下,在异构流水线里,通过不同计算卡的协同配合,整体性能和资源利用率都能得到明显提升,这就是异构计算带来的独特优势。这种方式也可以应用在很多领域,用来提升首字延迟、提升整体吞吐量,或者提升单个用户的极致体验。

除了大模型推理之外,词元工厂可以做的还有3DGS和4DGS的加速,这也是摩尔线程特有的能力。我们都知道,全功能GPU最核心的优势之一就是图形渲染。图形渲染在当下的很多 AI 场景中非常有价值。比如今天大家用手机拍一拍,一个 3D 空间就生成了,这就是 3DGS;如果再加上激光雷达等其他传感器信号,就可以组成多维度的空间场景,应用非常广泛。

摩尔线程除了支持业界开源的 3DGS、4DGS 工具,还自研了两个极具竞争力的技术,一个是自研的3D LiteGS,非常轻量化,在一台服务器甚至几张卡上就能运行,可以用极少的参数量达到高精度模型的效果。我们的 3D LiteGS 还在 SIGGRAPH Asia 2025 论坛上获得了奖项。另一个是自研的 3D 语义理解技术 UniSem。这些都可以在摩尔线程的开源社区里直接下载体验。此外,像国际上开源的VGGT等模型,也可以在我们的 S5000 上完美运行。我们和合作伙伴极佳科技在智能驾驶场景中合作,生成 3D 场景时的渲染性能和画质,基本上跟国际高端GPU产品达到了同等水平。

这些就是摩尔线程所能提供的、更宽泛、也更丰富的词元工厂服务

3、 智能体工厂

接下来,跟大家讲一下智能体工厂。

智能体工厂是我们的一个全新研究方向因为 AI 最终落地到每个消费者、跟每一个个体互动的时候,经常会遇到两种智能体:

第一种是数字智能体。我们自研了一个全栈的“小麦”智能体,大家可以体验一下,我觉得它还是很不错的,它比早期的时候大家用的“龙虾”更懂你、更智能,完成的成功率更高。在智能体训练平台中,我们支持业界几乎所有主流的开源或闭源智能体框架。在写代码、记忆、内容生成、调用传统工具去完成复杂工作流等方面,我们的平台都可以很好支持。

第二种是物理智能体(物理AI)。物理智能体,包括像大家经常谈论的人形机器人或者是其他的一些自动化设备。这些工具要跟我们的物理空间当中跟人生活在一起,首先要解决的就是安全问题。如何证明它安全?它的动作效果如何?这需要一个强大的仿真平台。

摩尔线程专门研发了一个平台叫MT Lambda,它是一个具身智能仿真平台,在里面它集成了所有的你需要的各种各样的底层引擎,包括开源的物理仿真引擎,有MuJoCo、Newton,并且都提供了摩尔线程的加速版(MuJoCo-MUSA和Newton-MUSA)。同时,平台还集成了摩尔线程自研的物理引擎 AlphaCore。这三个引擎共同支撑起了整个物理仿真的计算。

在图形渲染技术中,平台集成了3DGS,还有摩尔线程自研AI生成式渲染(AGR),再加上我们的Ray-Tracing(光线追踪),摩尔线程S5000应该是国内唯一一颗具备Ray-Tracing能力的智算芯片。大家可能以为S5000只能做训练和推理,其实它的光追和图形渲染能力也非常强。我们可以在 Lambda 平台里做逼真的图形仿真渲染,让机器人在高度拟真的数字孪生环境里进行仿真训练。

有了这样的平台训练的机器人,就可以做各种各样的动作,你希望它完成的动作,在这个平台上去仿真一下,如果可以,就可以把直接把它接到本机上或者是真机上体验,可以做到Sim-to-Real(从虚拟到现实),几乎是一模一样。在我们的展台上,我们也有一个小的试验,一只机器狗,在训练平台上的动作,跟它物理上最后跳起来的动作几乎是一模一样的。

当然,仿真平台的Scalling(扩展性)也非常重要。你不能只局限在单颗 GPU 上仿真,MT Lambda 支持几百卡甚至上千卡的大规模集群扩展,让大家能用海量算力去加速智能体的仿真训练。

最后再给大家介绍我们的AI终端产品。因为除了机器人和数字智能体之外,跟我们日常生活打交道最深、最直接的 AI,肯定还是我们的手机、笔记本或家庭设备。为此,摩尔线程专门推出了两款终端硬件产品:MTT AIBOOK-AI Agent笔记本和 MTT AICUBE家庭AI中枢。

我们推出这两款产品,核心目的就是把 AI 带入工作、生活和每一个家庭:

AICUBE是放在家里的客厅当中,接在电视上,家庭成员每个人都可以直接使用AI。AIBOOK可以作为每位职场人的随身生产力工具,写代码、做企划、搞内容创作,用Agent笔记本高效替代传统的笔记本电脑。

为什么做这两个产品呢?也是非常契合总书记在开幕式上讲的一句话,大家知道AI鸿沟会越来越大,会用AI的人和不会用AI的人差别太大了,如何弥补这些鸿沟,让AI普惠到每一个人,这两个产品就是利用人人能付得起的价格,把AI带到每个人的身边。AIBOOK简单来讲,把三种操作系统都融合在一起,所以原生可以支持Linux、安卓、Windows,哪种系统,都可以去使用。我们的AICUBE本身就有智能体内置,不需要键盘鼠标,你跟它说话就可以连接到你的电视,在家里就可以把AI的工作处理完。

最后给大家讲一下我们的生态系统。

摩尔线程的生态系统叫MUSA,怎么样让大家更好的从国外的生态系统迁移到MUSA呢?有两种方法,一个是摩尔线程传统的Musify和Automusify工具,让代码迁移实现自动化。

为了让大家用得更好,我们还专门做了一个MusaCoder,这是我们自己在夸娥算力集群上训练出来的一个代码大模型。这个模型可以直接写代码,直接写MUSA Kernnel(算子)。而且它写代码的水平还不差,我们对比了国际主流Claude Code模型,在KernelBench评测中,我们的成绩是超过它的,这也是一件非常有意义的事情,说明很多人都可以训出优秀的模型出来,我们希望这个模型帮助我们的开发者去训练和开发代码的时候更容易。

还有一个MusaCode的AI智能编程Agent,这个Agent是让机器人自动帮你去做,有了它,很多代码你自己不会移植的,就可以直接用它来移植。有了这几个工具可以很高兴的告诉所有开发者,进入 MUSA 生态系统,你的迁移门槛等于零。

为了让更多人做得更好,了解到摩尔线程,我们也专门设立了摩尔学院,通过“五维战略”和“六项计划”,与国内的高校、科研院所、企事业单位展开密切合作,投入了大量的人力、财力和物力,致力于为中国 AI 产业培养最优秀的本土人才。

总结一下,摩尔线程今天带给大家的整体战略版图,可以归纳为:三个 AI 工厂、两个 AI 原生终端、以及一个 MUSA 生态。

谢谢大家!

相关文章