东方证券最新发布的计算机行业深度报告显示，人工智能算力发展正经历结构性转变，从以模型训练为主导的阶段迈向以推理应用为核心的新周期。这一转变源于大模型训练数据增速放缓带来的边际效益递减，以及推理成本持续下降引发的需求爆发式增长。报告特别指出，多模态交互技术与智能体（Agent）的广泛应用，正在推动推理算力需求呈现非线性增长态势。
在底层架构层面，智能体时代的到来正在重塑计算资源分配模式。传统CPU角色从任务调度转向核心计算执行，成为键值缓存（KV-cache）的最佳载体，促使服务器向多核架构和大容量内存方向升级。GPU领域则面临性能瓶颈转移，显存带宽成为制约因素，推动推理需求向结构化方向发展。这种变化直接导致云服务商业模式转型，资源租赁模式逐步让位于模型即服务（MaaS）和智能体编排系统，工具链生态建设成为竞争关键。
存储领域同样迎来技术革新。英伟达推出的ICMS AI原生存储平台通过优化KV缓存管理，配合SCADA计划提升存储效率，配合cuDF、cuVS等数据加速库的广泛应用，显著降低了AI推理与数据处理成本。国内企业星环科技与英伟达合作开发的GPU数据库，进一步推动了存储架构的升级进程。这些技术突破共同构建起新一代AI基础设施，为推理主导时代的算力需求提供支撑。
报告分析认为，当前算力格局的演变具有双重驱动特征：技术层面，大模型训练进入平台期，而推理应用场景持续拓展；市场层面，企业级用户对实时决策、个性化服务的需求激增，推动推理算力占比快速提升。这种转变不仅要求硬件架构调整，更催生出新的软件生态和商业模式，整个AI产业链正在经历深度重构。
