摩尔线程携手智源 FlagOS 完成 DeepSeek-V4-Flash 模型在 MTT S5000 GPU 上的 Day-0 适配

摩尔线程近日携手智源 FlagOS，为旗舰级 AI 训推一体 GPU MTT S5000 完成 DeepSeek-V4-Flash 模型的 Day-0 适配。该模型采用混合专家架构，总参数量达 2840 亿，激活参数 130 亿，支持百万 token 上下文长度，预训练数据超 32 万亿 token，最大推理模式下性能接近 Pro 版本。

值得注意的是，DeepSeek-V4 首次采用 FP4+FP8 混合精度策略，而国内主流 AI 芯片仍以 BF16 为主。MTT S5000 凭借原生 FP8 支持能力，可高效承载该模型的前沿精度设计，其硬件级 FP8 加速单元能将数据位宽减半，显存带宽压力降低 50%，理论计算吞吐量翻倍。FlagOS 团队针对该模型进行 FP8 量化，在 FP8 算子与稀疏注意力算子优化上取得突破。