在AI领域的基础设施建设上，英伟达再次展现了其领先的技术实力和创新精神。在近期于圣何塞举行的英伟达GTC大会上，该公司面向AI时代的新型基础设施推出了两款重磅新品，旨在进一步提升AI工厂的性能和扩展性。
英伟达将超大规模的新型数据中心形象地称为“AI工厂”。随着这些工厂的规模不断扩大，对AI网络基础设施的需求也随之增加。为了满足这一需求，英伟达推出了光电一体化封装网络交换机NVIDIA Spectrum-X Photonics和Quantum-X。这两款交换机能够将AI工厂的连接扩展到数百万个GPU级别，同时显著降低能耗和运营成本。
Spectrum-X Photonics以太网网络平台特别引人注目，其每端口的数据传输速率高达1.6Tb/s。通过创新地集成光器件，该交换机大幅减少了激光器的数量，并将能源效率提高了3.5倍，信号完整性提高了63倍，大规模组网的可靠性提高了10倍，部署速度也提升了1.3倍。据英伟达透露，Quantum-X Photonics InfiniBand交换机预计将于今年晚些时候上市，而Spectrum-X Photonics以太网交换机则将由领先的基础设施和系统供应商在2026年推出。
除了在网络方面的创新，英伟达还推出了NVIDIA AI数据平台，这是一个可自定义的参考设计，专为存储提供商打造，旨在构建全新的AI基础设施，以满足AI推理工作负载的严苛要求。这一平台利用英伟达的加速计算、网络和软件技术，针对复杂查询进行推理，并快速生成准确响应。
AI数据平台的核心功能相当于一个智能AI路由器，它通过高速、低延迟的网络进行负载平衡，并交换提示和键值（KV）缓存，以提高推理速度和准确性。该平台能够快速访问和处理包括结构化、半结构化和非结构化数据在内的各类海量数据，如文本、PDF、图像和视频等。借助NVIDIA NeMo Retriever微服务，该平台在英伟达GPU上的数据提取和检索速度可加快高达15倍。
英伟达还与多家领先的存储提供商合作，如DDN、戴尔、HPE等，共同打造可定制化的AI数据平台。这些平台将充分运用企业数据进行推理，并响应复杂查询。英伟达认证的存储合作伙伴正计划从本月开始提供使用NVIDIA AI数据平台构建的解决方案。
英伟达在AI基础设施领域的布局远不止于此。该公司还致力于共封装光学技术的研发，旨在通过大规模实现硅光通信的融合来节省能耗和成本。尽管这一前沿技术在实际落地中的成熟度还有待验证，但英伟达的前瞻布局无疑使其在AI基础设施领域保持了领先地位。
英伟达与垂直行业龙头企业的合作也进一步加深了其护城河。例如，在硅光生态系统的建设中，英伟达与台积电、富士康等企业共同发明与合作，打造集成硅、光工艺和供应链。这些合作不仅提升了英伟达的技术实力，也为其在AI基础设施领域的持续创新提供了有力支持。
