到2029年末敲定原生稀疏整体方案并形成行业标准。
作者 | 刘煜
编辑 | 陈骏达
过去几年，AI基础设施建设主要依靠扩大算力规模满足模型增长需求。但随着大模型参数规模持续提升，以及智能体等应用推动推理需求快速增长，算力成本、能源消耗和资源利用效率逐渐成为产业发展的新瓶颈。
国家数据局数据显示，今年3月底我国日均Token调用量突破140万亿，相比2024年初增长超过千倍。面对持续增长的推理负载，产业正在探索包括算法优化、软件优化以及新型计算架构在内的多种算力效率提升路径。
其中，稀疏计算成为受到关注的技术方向之一。该技术通过识别模型中的冗余计算部分，减少无效计算，在控制精度影响的情况下提升计算资源利用效率，可降低大模型推理过程中的计算消耗。但从技术研究走向规模应用，稀疏计算仍需要解决算法、软件、芯片架构以及应用生态之间的协同问题。
为突破传统计算范式下的能效瓶颈，降低产业应用门槛，国产AI芯片创企墨芯人工智能（以下简称“墨芯”）发起成立稀疏计算产学研联盟，联合高校、科研机构和产业伙伴，旨在推动稀疏计算从单点技术探索走向产业协同。
对于墨芯而言，这也意味着其围绕稀疏计算技术路线的发展，从芯片产品和算力部署进一步延伸至产业生态建设。
01.
成立稀疏计算产学研联盟，
推动算法、软件、芯片、应用形成协同闭环
当前主流AI计算体系主要建立在稠密计算模式之上，即按照完整矩阵进行计算。但随着模型规模不断扩大，大量计算资源被消耗在低价值信息处理上，如何减少无效计算成为提升AI基础设施效率的重要方向。
稀疏计算正是在这一背景下发展起来的技术路径。在AI神经网络中，绝大多数权重、激活值都是0或者接近0的无效数值，这些数值对最终结果贡献极小，但却占据大量计算资源。稀疏计算核心思想正是跳过这些无效数值的乘法、加法运算，只对非零数值（有效数值）做计算，从而减少计算量和数据搬运压力。
相较于传统稠密计算的固有短板，稀疏计算具备高效节能、降本增效的优势，是破解当前AI算力能效瓶颈的突破口之一。但当下国内并没有完整的稀疏计算产业链生态，同时，想将稀疏计算从技术原理发展到大规模产业化，仍存在较大挑战。
一方面，模型层面的稀疏模式需要与硬件架构相匹配。不同模型、不同任务对于稀疏结构的需求并不相同，需要算法研究与芯片设计协同优化；另一方面，现有AI软件生态主要围绕传统计算模式建立，稀疏计算需要编译器、框架以及工具链进行适配，才能降低开发和部署成本。
因此，稀疏计算产业化并不是简单提升单颗芯片性能，而是涉及算法创新、软件优化、硬件设计以及应用验证的系统工程。这种复杂的协同要求，意味着稀疏计算的规模化落地很难靠一家企业单打独斗完成，产业上下游的共同参与和分工协作，才是相对更现实的路径。
此次墨芯发起成立稀疏计算产学研联盟，正是希望围绕这一产业协同需求，推动不同环节之间建立连接。
联盟成立后，将通过联合研究、技术评估、标准制定与应用推广等方式，解决不同模型如何适配、软件工具链如何完善、芯片架构如何优化以及行业应用如何规模部署等问题，推动稀疏计算产业链上下游形成深度协作。
其目标并不是替代现有AI计算体系，而是在大模型推理需求增长背景下，为AI基础设施提供新的效率优化路径。
目前，该联盟汇聚高校、科研机构与产业伙伴多方力量，相关合作伙伴名单仍在持续更新扩充中。从产业结构来看，联盟成员覆盖基础研究、技术研发以及应用场景等多个环节，有助于推动稀疏计算从实验室研究向工程实践迁移。
在技术路线方面，联盟规划建设全栈稀疏技术路线，以“6S技术架构”为基础推进全栈稀疏技术研发。
其中，Sparse代表识别并利用稀疏性，Speed代表提升计算吞吐能力，Swift强调提高算力密度，Saving关注降低能源消耗，Stable强调系统稳定性，Smart则聚焦智能优化和自适应计算。
展开来讲，在高倍率半结构化与混合稀疏方向，联盟将探索N:M稀疏、块稀疏与细粒度稀疏的自动模式搜索与精度恢复；在广义稀疏大模型方向，其将拓展双层稀疏、Token筛选、Sparse Attention与多模态稀疏；在稀疏与低比特融合优化方向，联盟将推进稀疏与INT8/INT4/FP8/FP4联合优化及混合精度搜索。
而在下一代稀疏芯片架构方向，其将攻关压缩域直接计算、稀疏元数据引擎与动态稀疏调度；在动静态协同稀疏计算方向，实现静态结构稀疏与动态激活稀疏联合编译与自适应切换；在SparseBench与标准生态方向，建立涵盖TTFT、TPOT、P99、能耗与单Token成本的五级指标体系与行业标准。
这一攻坚路线将按照既定规划阶段性落地。联盟计划于2027年初完成稀疏感知建模搭建算法底层基础，同年8月则实现多模式混合稀疏融合与单机能效优化；2028年10月，联盟将突破MoE通信瓶颈，并落地千卡级算力集群稀疏部署能力。
到2029年末，稀疏计算产学研联盟将完成训练、算法、芯片、互联软硬件全栈稀疏协同布局，敲定原生稀疏整体方案并形成行业标准，实现稀疏计算从算法研发到产业标准化落地的完整闭环。
02.
商业化项目加码Token降本，
开放产业实践打造可复现算力增效方案
稀疏计算产学研联盟全栈路线图的规划与落地并非空中楼阁。如果说联盟成立解决的是稀疏计算产业化过程中协同创新的问题，那么实际业务落地则决定了这一技术路线能否真正回应AI基础设施效率提升需求。
在当前Token经济体系下，大模型商业化的痛点在于“并发量大、实时性要求高、单Token成本居高不下”，多重因素共同推高整体推理开支。对于云服务商、行业客户以及智算中心而言，随着Token调用规模增长，算力需求不再只是简单增加GPU数量，而是需要在有限硬件资源下提升单位计算产出。
在这一背景下，稀疏计算可通过优化计算过程，提高每单位算力能够完成的有效任务量，降低大模型推理过程中的计算成本。但不同应用场景对于推理延迟、吞吐量、能耗以及成本的要求不同，只有将稀疏计算能力嵌入实际算力部署环境，才能发挥其对提升Token效率的优势。
墨芯是国内少数走差异化稀疏计算路线的创企，其推进的多区域算力部署，便是旨在不同业务负载中发挥稀疏计算对于推理效率提升的实际价值。
例如，墨芯在西北地区落地的千卡级推理集群，核心面向传统产业智能化改造需求，重点服务电子制造、消费品加工场景下的厂区安防、机器视觉检测等实时AI业务。
工业视觉质检、厂区安防值守需要不间断处理海量图片与视频流，对推理时延有着严苛约束。这类工业场景要求7×24小时稳定供给大规模算力，算力利用率、单任务算力成本决定了工厂智能化项目的投入回报水平。
而依托稀疏计算架构优化推理链路，能够削减冗余重复运算，提升单算力节点的业务承载效率，从而帮助企业压低工业AI落地成本。
在西南区域，墨芯则结合当地能源条件构建低功耗绿色算力池。随着AI推理需求持续增长，能源消耗已经成为数据中心运营的重要约束之一。对于需要长期运行的推理服务而言，提高单位电力产生的有效计算量，比单纯增加算力规模更具长期价值。稀疏计算通过减少无效计算量、提升能效，有助于降低推理服务运行过程中的能源成本。
在华东区域，其相关算力部署聚焦生物信息、医疗健康等计算密集型场景，通过AI算力支持基因测序分析、蛋白质结构预测等任务；在华北区域，则围绕城市治理、社区智能化等方向，探索人脸识别、姿态识别等多模态视觉应用。
如果每一次推理任务都依赖传统稠密计算方式，计算成本会随着数据规模增长不断增加。通过提高推理效率、优化计算过程，稀疏计算能够帮助这类计算密集型应用降低算力消耗，同时提升单位算力承载的视频分析任务数量，使AI能力能够覆盖更多终端和应用节点。
这些应用场景虽然行业不同，但从产业趋势来看，随着越来越多企业将大模型能力嵌入业务流程，未来AI基础设施竞争重点或在于如何通过架构优化、软件适配以及计算效率提升降低企业长期运营成本，稀疏计算在当前Token生态里扮演的角色也将更加重要。
除已有商业化部署落地外，墨芯还在推进面向未来大模型推理需求的新一代稀疏专用推理芯片SparsePrime。该产品基于自研Antoum2.0芯片架构设计，定位于智算中心和数据中心的大模型推理场景，通过软硬件协同优化提升稀疏计算效率，预计今年量产。
相较于前代产品，SparsePrime重点强化通用推理场景适配性，依托工具链优化简化模型迁移流程，兼容主流深度学习框架与推理配套生态，帮助开发者以更低部署成本落地稀疏计算。
墨芯的SparsePrime产品以及其已有的算力部署实践，验证了稀疏计算技术在真实业务负载下对于推理效率提升的可能性，为后续产业生态建设提供了实践基础。
此次墨芯成立联盟，也正是希望将已有技术路径和产业实践经验向更多高校、机构和企业开放，从而推动稀疏计算在算力降本增效方面形成可复制的商业化方案。
与此同时，墨芯已完成近10亿元C轮融资。该轮融资汇集了头部国资创投机构深创投，以及岩山科技、大湾区共同家园、力鼎资本、蕴盛资本等产业资本与市场化机构，股东结构多元，一定程度折射出产业端与资本市场对稀疏计算技术路线以及生态布局的认可。
03.
补充稀疏计算复合型人才，
完善国产AI算力生态一体化建设
过去几年，国产AI芯片产业更多关注硬件产品能力建设，包括芯片设计、性能优化以及应用适配，但整体生态软硬件协同相对薄弱。而稀疏计算的发展天然需要算法、软件和芯片之间的深度协同，这也为推动国产AI计算生态的整体完善创造了契机。
高校和科研机构具备算法、模型以及计算理论等方向的研究能力，而产业企业则更接近芯片研发、软件优化和实际应用场景。通过稀疏计算产学研协同，可以让科研方向更加贴近产业需求，同时也能够将产业实践中的问题反馈至技术研究环节，推动技术持续优化。
由于稀疏计算涉及算法研究、芯片架构设计、系统部署等多个领域，产学研联盟的建立，能够进一步加强高校科研与产业实践之间的联系，为相关领域培养既理解AI模型需求，又掌握底层计算架构的复合型人才，以巩固国产稀疏计算生态的持续创新能力。
AI算力规模快速增长，带来了能源消耗和运营成本压力。随着智算中心建设持续推进，未来算力基础设施不仅需要提升计算能力，也需要关注能效水平和长期运营成本。
这一趋势与国家算力基础设施建设方向相呼应。“十五五”规划持续强调数字经济核心产业发展，随着数字产业规模扩大，AI算力需求也将进一步增长；“东数西算”工程推进过程中，也对数据中心绿色低碳发展提出要求，国家枢纽节点新建数据中心绿电使用比例在80%的基础上进一步提升；今年两会期间，“算电协同”也成为新型基础设施建设的重要方向，进一步强调了算力布局与能源供给之间的协同匹配。
围绕稀疏计算开展产学研合作这一路径正与国家宏观战略相契合，有助于提升算力资源利用效率，促进“算电协同”，同时降低基础设施总体拥有成本，缓解算力高速增长与能源供给、低碳发展之间的矛盾。
04.
结语：压低算力能耗成本，
拓宽国内算力基建技术路径
据中泰证券测算，未来AI推理需求规模有望达到训练阶段的5~10倍。相比训练阶段更加关注集中式计算能力，推理阶段则更强调单位成本、响应速度和部署效率；如何提升单位算力产出，降低AI应用运行成本，正在成为算力基础设施下一阶段的重要课题。
在摩尔定律趋近瓶颈、AI算力能耗与运营成本持续攀升的行业背景下，以稀疏计算为代表的高效计算技术，正打破传统稠密计算的固有范式，为AI算力产业从“规模堆砌”向“效率提质”转型提供了一条技术路径。
长远来看，随着稀疏计算产学研联盟协同机制持续落地、技术标准逐步完善以及全栈稀疏技术不断迭代成熟，稀疏计算或进一步渗透大模型推理、多模态应用、行业算力集群等核心场景，加码国内AI新型基础设施发展，并进一步完善本土AI生态链。
