下一代 Groq LPU 推理芯片有望采用 3D 堆叠 DRAM 方案

Groq 当前的 LPU 推理加速器采用大容量 SRAM 缓存设计，以快速解码输出见长。但 SRAM 容量较小、制程升级带来的密度收益有限，在大模型表现和芯片迭代上存在固有局限。

据韩国媒体 ZDNET Korea 报道，下一代 Groq LPU AI 推理加速器芯片有望采用基于 TSV（硅通孔）工艺的 3D 堆叠 DRAM 方案，通过内存垂直堆叠突破容量瓶颈。

无独有偶，同样采用大 SRAM 技术路线的 Cerebras 此前已预告，未来的 CS-6 芯片将实现 3D 垂直集成 DRAM。两家厂商的相似动向，显示这一技术路线在应对大模型内存需求时正寻求新的突破。