小米 MiMo-V3 将采用 HySparse 2 新架构，预填充计算量降低 5 倍

小米 MiMo 大模型负责人罗福莉宣布，MiMo-V3 即将采用全新架构，核心组件 HySparse 2 正式发布。该架构在 100 万 Token 长度下，预填充计算量降低 5.02 倍，KV 缓存缩小 4.5 倍，同时 MRCRv2 和 RULER-v2 评分更高，AgentPPL 和 LongPPL 更低。

罗福莉指出，智能体推理的工作负载截然不同：每轮交互中简短动作可能返回需预填充的长文本观察结果，上下文持续增长，使预填充成本、KV 缓存大小和检索准确率同时处于关键路径。HySparse 2 通过 KV 桥接和 KV 重用两项技术，让交叉解码器的 KV 缓存全部来自自解码器，预填充在自解码器完成时即可停止。

此外，小米于前一日发布并开源 Xiaomi MiMo-V2.6 系列，包含 Pro 与 Flash 两个原生全模态模型。小米称这是探索 RSI 路径的关键一步，通过规模化扩展强化学习算力拓展模型智能边界。