在近期举办的全球人工智能大会上,云天励飞正式发布了面向未来两年的AI推理芯片发展蓝图。公司宣布将推出三款针对不同推理环节优化的专用芯片——DeepVerse100P、DeepVerse100D和DeepVerse100L,旨在通过精细化算力配置提升系统整体效率,进一步降低大模型推理过程中的Token生成成本。
当前AI应用场景呈现多元化发展趋势,对话系统、复杂推理、多智能体协同等不同类型的应用对推理负载提出差异化需求。随着任务上下文长度增加和实时交互要求提高,传统通用架构芯片在处理混合负载时面临资源竞争、通信延迟等挑战。云天励飞通过解耦推理流程,针对Prefill、Decode和Decode FFN三个关键环节设计专用芯片,实现计算资源与负载特征的精准匹配。
DeepVerse100P专注于处理百万级上下文的Prefill阶段,采用独立算力架构避免与Decode环节争夺资源。该芯片通过优化计算单元配置,有效解决长上下文处理时的资源抢占问题,确保后续解码阶段的吞吐量稳定。DeepVerse100D则针对逐Token生成的Decode环节,配备数倍于主流产品的内存带宽,支持千卡级光互联架构。其动态光路重构技术可减少数据传输跳数,将多节点通信延迟降低40%以上。
面向计算密集型的FFN环节,DeepVerse100L创新采用3D Memory架构,内存带宽较传统HBM提升3倍。通过芯片间低延迟互联和激活数据快速通道设计,该芯片使计算与通信的并行效率提升60%。三款芯片形成完整解决方案,可针对不同推理负载动态调配算力资源,在万卡级异构集群中实现系统效率最大化。
在硬件协同层面,云天励飞提出分离式部署方案。通过将Prefill、Decode和FFN处理分别分配至对应专用芯片,配合高速互联技术构建异构算力网络。这种设计使集群资源利用率提升25%,单位Token能耗降低30%,特别适用于需要处理超长上下文和实时交互的智能体系统部署。
为支撑大规模芯片集群运行,公司同步推出IFWA软件栈体系。该软件栈覆盖模型开发、算子优化、编译部署全流程,已实现对PyTorch ATen算子库的深度适配,并支持vLLM、SGLang等主流推理框架。通过引入AI Agent自动化工具链,模型适配周期缩短60%,算子开发效率提升3倍。开源的Houmao编程框架更实现多Agent协同开发,将芯片软件调试从人工经验驱动转化为自动化流程。
在生态建设方面,云天励飞联合30余家产业链企业启动"1001计划"。该倡议聚焦Token成本优化,推动从芯片设计到应用落地的全链条协同。通过建立需求反馈机制,使模型开发需求可提前影响芯片架构设计,同时促进软件能力的跨平台复用。参与企业共同承诺加速芯片在真实场景中的验证周期,推动国产算力解决方案的快速迭代。
随着AI技术向规模化应用迈进,算力竞争已从单芯片性能转向系统级效率比拼。云天励飞通过芯片架构创新、异构集群优化和生态协同,构建起覆盖硬件、软件、系统的完整解决方案。其提出的"百亿Token一分钱"目标,折射出国产AI算力从技术突破向商业落地的关键转型,为智能时代的基础设施建设提供了新的发展范式。










