在近日于美国拉斯维加斯举行的黑帽网络安全大会上，英伟达宣布了一项重要举措：开源其cuFile API及其底层存储软件栈。这一技术是NVIDIA GPUDirect Storage的核心接口组件，旨在实现应用对GPU直连存储能力的直接访问，使存储数据能够在毫秒级时间内抵达GPU，从而显著提升数据处理效率。
GPUDirect Storage技术打破了传统数据传输路径的局限。传统方式下，数据需先读入主内存的临时缓冲区，再复制到GPU内存，这一过程增加了延迟并降低了数据访问速度。而GPUDirect Storage技术通过减少主内存中转环节，实现了存储设备与GPU之间的直接数据传输，大幅提升了系统性能。
cuFile API作为该技术的重要组成部分，自2021年7月随CUDA Toolkit 11.4发布以来，便受到了广泛关注。它允许本地分布式存储与GPU内存直接交换数据，绕过了中央处理器与系统主内存，从而有效降低了内存访问延迟。这一特性在AI推理等高性能计算场景中尤为重要，因为数据带宽的瓶颈往往会导致分布式GPU阵列中的部分GPU因等待数据而闲置，形成所谓的“GPU饥饿”问题。
英伟达表示，毫秒级的低延迟对于检索增强生成和智能体AI等应用至关重要。这些应用需要快速读取深层存储中的大型数据集，而cuFile API的开源将使得更多开发者能够利用这一技术，提升应用的性能和响应速度。在数据路径上，cuFile依托DMA（直接内存访问）技术，能够将NVMe硬盘等存储设备中的数据直接送入GPU内存，进一步优化了数据传输流程。
除了开源cuFile API外，英伟达还发布了Storage-Next行业倡议。这一倡议汇聚了40家领先的存储与闪存厂商，包括DataDirect Networks、铠侠（Kioxia）和美光科技（Micron Technology）等。通过这一倡议，英伟达旨在推动存储技术的创新与发展，为AI和高性能计算等领域提供更加高效、可靠的存储解决方案。
有科技媒体报道称，英伟达正在研发一项新技术，未来有望使SSD固态硬盘充当额外显存。这一技术若得以实现，将在游戏或AI场景下显著改善运行表现，为用户带来更加流畅、高效的体验。这一消息进一步彰显了英伟达在存储技术领域的创新实力和市场前瞻性。
