在近期于硅谷举办的AI基础设施峰会上，内存短缺问题被与会者一致视为阻碍AI技术发展的关键瓶颈。随着AI推理任务对内存容量和带宽的需求呈指数级增长，传统高带宽内存（HBM）在平衡成本与性能方面已显力不从心。为此，行业将探索方向转向新型存储架构，其中高带宽闪存（HBF）和高带宽计算（HBC）成为两大技术突破口，分别从容量扩展和能效优化两个维度展开创新。
HBF被定义为介于HBM与固态硬盘（SSD）之间的新型存储层级，其核心创新在于采用TSV硅通孔技术实现NAND闪存的垂直堆叠。这种设计使HBF在保持与HBM4相近的封装尺寸和功耗水平的同时，容量可达HBM的8至16倍。根据SK海力士与闪迪联合发布的规范，首个HBF标准将于2026年8月通过开放计算项目（OCP）发布，其最高容量配置可达512GB，带宽范围覆盖0.4TB/s至3.0TB/s。目前，谷歌与Tenstorrent等企业已加入HBF技术联盟，推动其生态建设。
实际应用测试显示，HBF在特定场景下具有显著优势。SK海力士的仿真数据表明，采用8组HBM3E与8组HBF的混合配置时，系统每瓦性能较纯HBM方案提升2.69倍。闪迪公布的对比数据进一步印证了这一点：在封装参数与HBM4相当的情况下，HBF的容量密度实现质的飞跃。然而，HBF的带宽瓶颈也逐步显现。据TrendForce报道，在72 GPU机架运行1万亿参数模型的测试中，用HBF完全替代HBM虽可将内存容量从20.7TB提升至294.9TB，但聚合带宽仅能达到HBM的60%左右。这一特性决定了HBF更适合承担存储不常访问的混合专家模型（MoE）专家池和键值（KV）缓存等任务，而非全面取代HBM。
与HBF的容量导向不同，高通主导的HBC技术聚焦于能效提升。该方案通过将多个LPDDR芯片垂直堆叠在加速器上方，并利用近存计算架构将部分计算逻辑直接集成到内存下方，从而减少数据搬运带来的能耗。高通公布的数据显示，在完整加速器级别的测试中，HBC的单位功耗带宽达到HBM的6倍，单位功耗存储容量更是SRAM的200倍。这种技术路线已获得三星和SK海力士的积极响应，两家存储巨头将与高通合作推进HBC的商业化进程，而台积电则负责开发相应的整合封装工艺。按照规划，第一代HBC产品将于2027年量产，并集成至高通AI250推理加速器中。
尽管HBC在能效方面表现突出，但其应用场景仍存在局限性。当前测试表明，该技术仅在推理任务的内存带宽受限阶段（如解码阶段）展现优势，而在需要强计算能力的预填充阶段，其性能仍受制于计算单元的配置。这种特性使得HBC在短期内难以成为通用型解决方案，更多是作为特定场景下的性能补充手段。
