中国信息通信研究院依托人工智能软硬件协同创新与适配验证中心(位于北京经开区国家信创园),基于AISHPerf人工智能软硬件基准体系,正式启动“AISHPerf大模型训推工程实践性能基准研究工作”。该项工作以“建基准、聚数据、促优化”为核心方向,聚焦千卡至万卡规模集群在训练与推理环节的核心性能瓶颈,系统梳理模型算力利用率、显存利用率、线性扩展效率、有效训练时间占比、首词元时延、吞吐量、显存带宽利用率等关键指标的定义口径与经验值区间,结合业界公开技术报告与实测数据,为行业提供可引用、可对标、可追溯的工程性能参考基准,推动可信智算体系规范化发展。
下一步将持续推进基准研究,重点开展三方面工作:
一是完善指标体系。建立统一的性能指标定义、测量方法与报告规范,明确各指标适用场景与计算口径,消除因定义不一致导致的横向比较偏差。
二是汇聚行业数据。广泛征集模型训练方、芯片厂商与算力建设方的实测性能数据,形成脱敏化的行业基准参考区间并定期动态更新,为产业各方提供对标依据。
三是推动工程实践。梳理业界在通信优化、显存管理、并行策略调度等方面的成熟经验,形成可复用的优化路径建议,助力算力建设方科学选型、模型训练方精准调优。
风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。