在Token经济蓬勃发展的当下,AI基础设施领域正面临一个关键挑战:如何在能源和成本有限的情况下,产出更多高质量的Token。随着Token消耗呈指数级增长,算力需求持续攀升,人工智能数据中心(AIDC)的用电量在全社会用电结构中的占比迅速上升。行业关注的焦点已从单纯追求算力规模,转向如何以更低成本、更高效率生产更多Token。
商汤大装置智算中心总经理林海指出,在Token经济时代,AIDC应被重新定义为连接电力与Token的价值平台。能否实现算力与电力的协同优化,将成为决定未来商业竞争力的核心要素。传统衡量数据中心能效的指标PUE(电源使用效率),已无法满足当前行业发展的需求。
长期以来,PUE作为数据中心总能耗与IT设备能耗的比值,被视为衡量能效的"黄金标准"。行业围绕PUE展开了一系列节能努力,包括优化机房气流组织、革新制冷系统架构、利用自然冷却和规模化部署液冷技术等。但随着AIDC服务模式从"卖卡时"转向"卖Token",评价效率的标准也需要相应更新。PUE只能反映电力使用情况,却无法衡量这些电力创造了多少有效价值。
当前产业分工下,电力投入与Token产出之间的数据链路存在断裂。从电网到IDC,再到算力平台和模型厂商,各环节各自为政,只优化自身指标,导致全局最优难以实现。林海举例说明,单纯调高送风温度可能降低制冷能耗,改善PUE数据,但会增加GPU和服务器风扇功耗,最终总用电量未必下降,Token产出成本反而可能上升。
为解决这一问题,商汤大装置提出了新的效率指标TPW(Tokens Per Watt),即单位电力成本产生的有效Token数量。这一指标不仅考虑了电力使用效率,还纳入了分时电价等因素,将关注点从"用了多少电"转向"这些电创造了多少价值"。TPW并非要取代PUE,而是在其基础上,建立了从电力投入到Token产出的全链路效率评价体系。
TPW的价值不仅在于提供了一个新的衡量标准,更重要的是它建立了一套统一的价值语言。电网、IDC、算力平台和模型厂商可以在同一标尺下进行优化,使算电协同成为可度量、可复制、可商业化的系统能力。这种转变将推动AI基础设施从单纯追求设备能效,转向优化整个算力系统的运行效率。
为实现这一目标,商汤大装置开发了算电协同Agent,这是一个能够感知、思考、决策和执行的智能调度系统。该系统通过八级数据穿透体系,打通了任务、算力资源与物理用电之间的映射关系,实现了每一度电与每一个算力任务的精准对应。这为后续的预测、调度和优化提供了统一的数据基础。
在实际操作中,系统首先对算力任务进行分级管理。在线推理等实时业务需要即时响应,而训练、评测等任务则具有更大的时间弹性。系统根据业务优先级和延迟容忍度,自动将可调度任务安排在低电价、低负荷时段运行,在保障服务质量的同时提高资源利用率。这种优化不减少总用电量,而是通过优化时序,让同样的电力容量产出更多有效Token。
系统还结合容量挖潜、储能调度和电网需求响应,实现算力与能源的动态协同。通过负荷预测、容量优化和储能削峰等手段,充分释放既有基础设施的资源潜力。商汤大装置智算中心运维总监张煦表示,实测数据显示,在既有供电条件下,IT有效承载能力可提升约60%,这一提升来自系统级协同,而非新增供电容量。
这套方法论已在商汤临港AIDC得到规模化验证。在今年上海市迎峰度夏电力需求响应中,该中心通过算电协同调度模式,午间常规用电负荷削减75%,可调负荷规模达23MW,两小时内向电网释放了4.6万度削峰电量。这表明AIDC的负荷弹性可以成为一种可运营、可调度的新型资产。
算电协同Agent已全面应用于商汤临港AIDC,实现了单位电力成本Token产出提升80%、平均电费单价低于同地区IDC约10%、算力负荷预测准确率达到96%的显著效果。该系统采用平台化、模块化设计,将运营经验沉淀为可复用的能力,并依托专家体系形成标准化交付流程,新场景最快一周即可完成部署上线。
对于国家算力枢纽节点、万卡级智算中心等大型AI基础设施,算电协同Agent能够统一调度算力、能源与储能资源,提升集群整体算效,优化绿电消纳和综合用能成本。对于算力运营商、AI云服务商和Token工厂,系统可结合电价预测、负载优化与算力调度,持续降低单位Token电力成本。企业级智算中心、科研机构和行业AI平台也可依托模块化架构,快速部署算电协同能力,构建智能、高效、绿色的运营体系。











