美光研发近 GPU NAND，突破 AI 大模型显存限制

据 DigiTimes 报道，美国存储芯片制造商美光正研发一种高耐久性 NAND 闪存模块，计划将其直接部署在 GPU 附近，以缩短数据访问路径。该方案被称为“近 GPU NAND”，旨在存储密度与耐用性间取得平衡，处理非低延迟或高带宽工作负载。

这种 NAND 可置于 GPU 封装内或 PCB 上，工作方式类似 HBM 或 GDDR7，使 GPU 能直接访问数百 GB 的存储池。相比传统 TLC 或 QLC NAND，其存储密度较低，但重点提升 I/O 速度和带宽，作为显存与普通存储之间的高速缓冲层。

该技术有望让大型 AI 语言模型的推理不再受显存容量限制，为运行更大规模的 AI 模型提供支持，对 AI 大模型领域具有潜在影响。