趋境科技与摩尔线程近日达成战略合作,双方将共同推进国产化高品质AI Token工厂建设。此次合作的核心在于趋境科技自主研发的国产PD异构技术与摩尔线程MTT S5000智算卡及MUSA软件平台的深度融合,旨在开发并推广以Token Pod为载体的联合解决方案。
目前,相关方案已进入实际生产阶段,并成功承接头部模型厂商的官方业务流量。这一成果标志着国产PD异构推理技术首次在生产环境中得到应用,为行业树立了新的标杆。
联合方案的独特之处在于对AI推理过程中Prefill(预填充)与Decode(解码)两个阶段的资源优化。摩尔线程MTT S5000负责Prefill阶段的输入计算与KV Cache生成,而高带宽GPU则承担Decode阶段的Token生成任务。这种分工协作模式显著提升了整体效率。
MTT S5000凭借其高密度AI算力、原生FP8精度支持以及完善的MUSA软件栈与生态适配能力,实现了Prefill阶段从传统推理链路中的解耦。趋境科技则通过自研的PD异构技术,完成模型深度优化和跨设备协同,最终将不同类型的算力资源整合为统一、稳定且高性价比的端到端推理服务。
这种创新配置不仅减少了Prefill阶段对高成本资源的依赖,还避免了按单一阶段峰值需求配置整套基础设施的情况。在实际项目中,由4至5台MTT S5000组成的Prefill资源池,在输入Token处理性价比方面已超越国际先进算力方案。
此次合作表明,国产算力的竞争力正从单卡性能向系统级Token生产效率延伸。通过国产硬件与PD异构技术的深度协同,趋境科技与摩尔线程为万亿参数大模型的规模化推理提供了兼顾性能与成本效率的国产算力解决方案,有效提升了国产GPU的硬件能力转化为高品质AI Token产出的效率。










