英伟达近日宣布，其Blackwell平台通过全栈推理优化，成功将DeepSeek V4模型的单Token处理成本大幅降低，较该模型上线初期最高可降至原来的五分之一。这一成果标志着英伟达在AI推理成本优化领域取得重要突破，单Token成本已被确立为衡量AI总拥有成本的核心指标。
技术实现层面，英伟达构建了三层优化体系：生产运营层通过分布式服务架构实现资源智能调度，结合自动扩缩容机制和内存管理技术，确保系统高效运行；应用加速层采用计算与通信重叠设计，配合内核融合技术，显著提升运算效率；基础设施访问层则深度整合GPU、网络及存储资源，最大化硬件性能潜力。这种分层优化策略使Blackwell平台在处理复杂AI模型时具备显著优势。
性能提升方面，英伟达创新性地融合多项技术：分离式服务架构实现任务解耦，大规模专家并行技术突破计算瓶颈，基于NVLink的并行通信方案降低数据传输延迟，NVFP4精度优化平衡效率与准确性，多token预测技术提升吞吐效率。经测试，Blackwell平台单GPU的token处理能力较优化前最高提升20倍，在保持模型精度的同时实现成本指数级下降。
行业分析指出，此次优化不仅使DeepSeek V4模型的单Token成本降至行业最低水平，更验证了Blackwell平台在处理超大规模AI模型时的技术领先性。随着AI应用场景持续扩展，推理成本优化将成为企业部署AI服务的关键考量因素，英伟达的全栈优化方案为行业树立了新的技术标杆。
