据分析师郭明錤最新产业调查,英伟达已重启人工智能推理预填充加速 GPU“Rubin CPX”项目,但设计大幅调整,预计 2027 年第一季度开始生产。新 Rubin CPX 在芯片级接近标准 Rubin GPU 算力,预填充性能提升,功耗同为 2300W,配备 168GB HBM4 内存,较旧版 128GB GDDR7 显著升级。
在系统架构上,8 颗新 Rubin CPX 构成一个计算托盘,8 个托盘组成一个机架模组,内部采用 Spectrum-6 全铜以太网横向扩展;新 Rubin CPX 采用独立 MGX ETL 机架,每个机架含 1 至 4 组模组,模组间通过 Spectrum-6+OSFP 光学方案连接。英伟达建议 Rubin CPX 与标准 Rubin 按 1:1 配对,ETL 机架与 Vera Rubin NVL72 机架间使用以太网 RDMA 连接。
郭明錤指出,AI 推理工作量中超过 50%来自处理输入和建立 KV Cache,新 Rubin CPX 能以更弹性部署和更低成本承接预填充负载。其计算托盘拥有 1.34TB HBM 内存,足以满足多数长上下文预填充需求。
文中提及的 AI 工具
评论
正在加载评论…