在人工智能（AI）领域，需求的激增并未显现放缓迹象，反而多项技术创新正深刻改变着行业的面貌。近期，摩根大通发布的一份研究报告指出，参加Hot Chips 2025大会的分析师观察到，无论是消费端还是企业端，AI的爆炸式增长都在为先进计算、内存以及网络技术带来长达数年的强劲需求。
报告强调，AI已成为推动技术进步和产品需求的核心力量。每个会议都在传递一个核心信息：AI基础设施需求的增长势头依然强劲，且竞争焦点已从单纯的计算能力扩展到网络技术和光学技术的全面革新。摩根大通特别指出了以下几个值得关注的趋势：
谷歌在大会上揭晓了Ironwood TPU（TPU v6）的最新进展，其性能提升显著。与上一代TPU v5p相比，Ironwood的峰值浮点运算性能提高了约10倍，功效比提升了5.6倍。其存储容量和带宽也大幅提升，配备了192GB HBM3E内存，带宽达到7.3TB/s。Ironwood超级集群的规模也显著扩大，可扩展至9,216颗芯片，总计拥有1.77PB的直接可寻址HBM内存和42.5 exaflops的FP8计算能力。性能对比显示，Ironwood的4.2 TFLOPS/瓦功效比已接近英伟达B200/300 GPU的4.5 TFLOPS/瓦，显示出AI专用芯片与领先GPU之间的性能差距正在迅速缩小。
meta在大会上详细介绍了其定制的NVL72系统Catalina的架构设计，该设计在架构上进行了创新，每个B200 GPU都配对一个Grace CPU，而非标准的配置。这一设计使得系统中Grace CPU的总数翻倍，LPDDR内存和缓存一致性内存也分别增至34.6TB和48TB。meta表示，这一定制设计主要基于模型需求和物理基础设施的考虑，旨在满足大语言模型、排序和推荐引擎等需求，并将其部署到传统数据中心基础设施中。
网络技术成为本次大会的另一个焦点。博通推出了51.2TB/s的Tomahawk Ultra交换机，旨在满足HPC和AI应用对低延迟Scale Up交换机的需求。同时，英伟达也推出了“Spectrum-XGS”以太网技术，旨在解决客户在跨多个数据中心运行分布式集群时面临的挑战。光学技术也受到了广泛关注，多个演讲者强调了推动光学技术深度集成到AI基础设施的重要性，以应对铜互连的限制、机架功率密度的快速增长以及光学收发器成本和功耗相对较高的问题。
AMD在大会上深入介绍了MI350 GPU系列的技术细节，并透露了MI400系列的推出计划。MI355X和MI350X分别针对不同的基础设施需求，前者主要部署在液冷数据中心，后者则服务于传统风冷基础设施。性能方面，MI355X的计算性能较MI350X高出9%。AMD重申，MI400系列及其“Helios”机架解决方案将于2026年下半年推出，而MI500系列则计划于2027年发布。
