ITBear旗下自媒体矩阵:

WAIC观察:超节点与TPU方案齐发力 算力“拼系统”时代Token性价比成焦点

   时间:2026-07-21 12:53:49 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

在近期举办的世界人工智能大会上,人工智能算力领域的新进展成为焦点。随着模型训练规模向万卡级迈进,消费端智能应用不断涌现,产业端对人工智能的实际场景应用需求激增,算力供不应求的信号在产业链中愈发明显。构建超节点、超集群成为行业应对算力需求的主流方案,同时TPU技术路线也在加速发展,华东地区首座国产TPU千卡智算集群已投入使用。

多家科技企业展示了最新的超节点产品。华为推出的昇腾950超节点集群、曙光信息产业股份有限公司的全国产十万卡AI超集群“曙光8000”、燧原科技与中兴通讯联合开发的“云燧ESL64-O”正交架构超节点方案,以及阿里云、沐曦股份、摩尔线程、壁仞科技等企业推出的各类超节点服务器和架构方案,均吸引了广泛关注。这些产品通过提升GPU或TPU的融合效率,实现了算力密度的显著提升。

中国电子云发布的翎枢系列超节点产品,通过将千百张GPU整合为单一逻辑超级单卡,采用Tbps级超高带宽和百纳秒级超低时延技术,提升了算力释放效率。该系列产品覆盖20至64卡的黄金算力区间,具有成本更低、生态开放的优势,可兼容现有风冷和液冷机房。云天励飞则计划在未来三年推出三款专用芯片,构建面向万卡异构集群的分离式AI推理基础设施。

产业链下游对超节点和超集群产品的需求表现强劲。曙光8000集群上线首周即满负荷运行,日均处理作业数突破15万个,单日峰值超过50万个。该集群已完成近千项超智融合应用适配,覆盖大模型训练、高通量推理和科学计算等多个万卡级场景。华为昇腾384超节点已在互联网、运营商、金融、教育、医疗、交通和制造等行业商用落地750余套。

算力从业者指出,超节点架构和内部连接技术是当前及未来几年的发展重点。核心挑战在于解决GPU或TPU之间的高速互联问题,通过交换芯片实现单个节点的大规模连接,进而组建千卡、万卡级集群。在AI算力基础设施中,Scale-Up(纵向扩展)、Scale-Out(横向扩展)和Scale-Across(跨域互联)是三种主要扩展模式,其中Scale-Up的技术难度最大,但对组建大规模集群至关重要。

TPU技术路线的发展同样引人注目。杭州电信、中兴通讯与中昊芯英联合打造的国产TPU千卡智算集群,是中国电信体系内首个大规模国产TPU集群部署项目。该集群基于“泰则®”智算平台,面向大模型训练、AI推理和科学计算等场景提供全自主算力支撑。项目负责人表示,选择千卡规模作为起点,是为了先验证软件栈系统的集成效果,未来将逐步扩展至万卡集群。

中国电信杭州分公司智算中心总经理王良指出,TPU在张量运算和推理能力上具有独特优势。该集群落地后运行良好,尤其在Token需求激增的背景下,通过PD分离技术进一步放大了TPU的优势。经过持续调优,集群效率已提升超过10倍,每百万Token的成本从100元降至10元以下。二期项目计划于今年9月上线,算力规模将进一步扩大。

Token的性价比成为产业关注的焦点。对于模型厂商、AI应用企业和算力运营方而言,在限定时间和成本内稳定生成有效Token的数量,直接影响商业化效率。九章云极作为AI基础设施及智算云提供商,已在全球部署12个数据中心,算力总规模约22 EFLOPS,配备6600余张GPU卡,具备日产64亿词元的生产能力。其弹性算力体系帮助某头部模型厂商节省了最高82.1%的综合成本。

云天励飞表示,降低Token成本需要系统化优化,涉及从底层IP、芯片设计到服务器、软件栈和算力平台的各个环节。目前国内主流大模型的API价格已出现明显分层,常规文本模型的输入价格在每百万Token几角钱至十余元之间,输出价格在一两元至数十元之间。业内人士认为,提升Token价值比单纯降低成本更重要,算力基建和模型开发需协同解决这一问题。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version