阿里通义千问发布 Qwen3.8-Flash，长上下文与多模态能力显著提升

阿里通义千问团队发布 Qwen3.8-Flash 多模态 MoE 模型，主模型参数 125B，额外配备 51B 的 N-gram Embedding，每 token 激活 6B 参数。模型原生支持 262,144 tokens 上下文，可通过 YaRN 扩展至 1M tokens。

该模型在 Attention、Residual、Embedding 和 Optimization 四个方向进行升级。采用 GDN 与 QSA 混合架构，显著降低长序列 Attention 开销；引入 Gated Residual 机制，支持 FP8 存储；N-gram Embedding 可卸载至 Host Memory，不长期占用 GPU 显存。

相比 Qwen3.7-Plus，训练成本约为其九分之一，在编码和办公任务上能力更强。在 6B 激活参数下，Qwen3.8-Flash-Next-Base 在 14 个 benchmark 中的 8 个上取得最优结果。

Qwen3.8-Flash 即将上线千问 AI 平台，API 定价为每百万 Tokens 输入 1 元、输出 3 元。模型权重已开源，同步发布 FP8 量化版本。