强化学习已成为大模型训练的主流范式,其中训练与推理的一致性至关重要。华为计算近日宣布,基于 Ascend C 编程语言提供完整的训推一致算子集,在 Qwen3-30B MoE 模型上实现 Logdiff 为 0,并通过昇腾亲和的 FA 算子优化,在 Eager 模式下获得 20%-60%的性能提升。
训推不一致源于底层计算累加不保序,模型参数越大,问题越显著。昇腾通过统一注意力语义、锁定 reduce 累加序、对齐在线 Softmax 分块策略及关键路径精度,确保训练与推理走同一数值路径,兼顾性能与一致性。
华为已开源相关基础设施,并计划上线“训推一致问题识别 Skill”,帮助开发者排查残余 logdiff,定位问题根源。
文中提及的 AI 工具
评论
正在加载评论…