在 MLPerf Inference v6.1 基准测试中,AMD 与英伟达同步提交了最新结果。该基准由 MLCommons 维护,用于衡量 AI 推理任务的吞吐与延迟表现,6.1 版重点关注推理吞吐、扩展效率及不同 GPU 配置下的性能。
AMD 以 512 个 Instinct MI355X GPU 参赛,在 DeepSeek R1 测试中实现 575 万 token/秒的吞吐速度,创下其最大规模提交纪录。离线场景成绩为 2,901,950 tokens/s,服务器场景为 2,405,310 tokens/s。
英伟达在同一项目中提交 GB300 和 GB200 的 288 GPU 配置,GB300 离线成绩为 2,705,130 tokens/s,服务器为 2,028,030 tokens/s。此外,英伟达 Vera Rubin VR200 首次进入该基准,在 72 GPU 配置下比 GB300 快 95%。
评论
正在加载评论…