在存储技术领域，美光正积极推进一项创新研究，旨在开发一种新型高耐久性 NAND 闪存模块。与传统存储方案不同，美光计划将这种新型闪存模块部署在更靠近 GPU 的位置，而非通过多个协议连接到距离 GPU 较远的存储池。
据了解，美光正在探索一种折中方案，试图在存储密度和耐久性之间找到平衡点。这种新型产品被业内称为“近 GPU NAND”，主要面向非低延迟、高带宽的工作负载场景。通过将 NAND 闪存进一步靠近 GPU，美光希望为数据处理提供更高效的解决方案。
这种创新设计允许 GPU 直接访问数百 GB 的 NAND 存储池，存储模块可以直接集成在 GPU 封装内部或 PCB 板上。其工作原理类似于 HBM 和 GDDR7 等高速存储方案，但与传统 TLC 或 QLC NAND 相比，新型芯片更注重提升 I/O 速度和带宽，而非单纯追求存储密度。
作为显存和普通存储之间的中间层，这种新型存储方案可充当高速缓冲层，特别适用于运行大规模 AI 大语言模型。一旦该方案投入实际应用，将有效解决 LLM 推理过程中受显存容量限制的问题，为 AI 技术发展提供更强大的存储支持。
