ITBear旗下自媒体矩阵:

美光“近GPU NAND”技术探索:为人工智能大模型运行开辟硬件新路径

   时间:2026-09-03 21:07:57 来源:快讯编辑:快讯 IP:北京 发表评论无障碍通道
 

据科技媒体TechPowerUp披露,美光科技正秘密推进一项名为“近GPU NAND”的存储架构革新计划,试图通过重构存储设备与计算单元的物理关系,为人工智能大模型训练提供突破性解决方案。这项技术突破了传统存储系统依赖远程存储池的架构桎梏,将存储模块直接嵌入GPU计算核心周边,形成全新的数据交互范式。

研发团队创造性地提出"存储计算共生体"概念,通过将数百GB级NAND存储芯片直接集成在GPU封装基板或印刷电路板上,使存储单元与计算单元的物理距离缩短至毫米级。这种设计既不同于HBM显存的垂直堆叠方案,也区别于GDDR7的并行总线架构,而是开创了第三条技术路径——在保持足够存储容量的前提下,通过优化信号传输路径实现带宽跃升。技术白皮书显示,该方案可使GPU与存储间的数据吞吐效率提升3-5倍。

针对人工智能大模型特有的存储需求,研发团队对NAND闪存进行定制化改造。相较于传统TLC/QLC架构,新型芯片通过降低单位面积存储密度,换取更快的读写速度和更高的耐久性。这种取舍策略精准匹配了大模型推理场景的特点:既不需要极致的存储密度,又对数据访问延迟和带宽异常敏感。实验数据显示,在千亿参数规模的语言模型推理测试中,该技术可使单卡处理效率提升40%以上。

这项突破性技术最显著的价值在于破解显存容量瓶颈。当前大模型训练受限于GPU显存容量,不得不采用复杂的模型并行或数据分片技术。而近GPU存储架构相当于在显存与系统存储之间构建了高速缓冲层,理论上可将有效显存容量扩展至TB级别。行业分析师指出,这种硬件层面的革新可能引发AI基础设施的范式转变,特别是在处理超长序列文本、多模态大模型等显存密集型任务时,将展现出独特优势。

据内部人士透露,美光已完成首代工程样品的流片测试,正在与多家头部AI企业开展联合验证。虽然距离商业化应用尚需时日,但这项技术已引发存储行业的广泛关注。有专家评价,这种将存储单元"计算中心化"的思路,可能推动整个半导体产业重新思考存储与计算的协同架构,为摩尔定律放缓背景下的性能突破提供新方向。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version