大模型训练与推理所需的智能计算集群,今后在效能评价上有了统一参照。《智能计算集群效能指标与测试方法》国家标准化指导性技术文件经市场监管总局(国家标准委)批准发布,全国智能计算标准化工作组承担归口工作。
文件首次将大模型训练、推理两类场景纳入统一的集群效能评价框架,形成指标体系并配套统一测试方法,服务于智能算力基础设施的规划、建设和高效运行。
在训练场景中,模型算力利用率、训练计算能效、收敛速度、有效训练时间占比等指标被纳入评价,计算性能、收敛性能、稳定性能和混合集群性能等维度共同构成观察框架,用于综合判断集群的计算效率、训练质量与持续运行能力。
推理场景的关注点则落在吞吐率、响应时延、并发处理能力和计算能效上,以此衡量集群在真实推理服务中的表现。
围绕异构算力协同,文件引入混合训练效率、能效损失比等指标,供异构智能计算集群开展效能分析时参考。










