小米 MiMo 官方宣布其 V2.5 系列 API 永久降价,最高降幅达 99%,且不再区分上下文窗口长度。这一调整主要针对输入缓存命中的场景,通过推理框架的优化实现成本降低。
MiMo 负责人罗福莉解释,降价得益于分层 KV 缓存优化,将缓存 Token 容量提升 5 倍,降低 80%缓存成本。同时,模型架构的稀疏比设计使得原始推理成本远低于行业平均水平,为价格下调留出空间。
在新的 API 价格下,小米推理引擎接近满负载运行,但仍能维持收支平衡。罗福莉指出,价格合理的模型 API 将驱动大规模推理需求,进而拉动 AI 基础设施链发展,包括芯片、服务器、数据中心等,加速全球 AGI 演进。
文中提及的 AI 工具
评论
正在加载评论…