月之暗面于 7 月 27 日正式开源了其最新的 Kimi K3 模型,总参数量达到 2.8 万亿,成为全球首个开源的 3 万亿级别模型。该模型主要面向长程编程、知识工作和推理等前沿智能场景。
华为官方宣布,昇腾已在 Kimi K3 发布当天完成 0 天极速适配。训练侧基于 MindSpeed MM 在 Atlas 800 A3、Atlas 900 A3 SuperPoD 上完成基础功能适配,并针对算子、并行加速和显存优化进行专项优化。推理侧通过 vLLM Ascend 与 SGLang 引擎实现快速部署,昇腾 950 超节点支持 FP8、MXFP8、MXFP4 等全系列数值精度格式,原生支持 Kimi K3 的 mxFP4 量化权重。
Kimi 官方还公布了支撑模型训练的三项 Infra 技术:MoonEP、FlashKDA 和 AgentEnv,覆盖高性能通信、算子到分布式强化学习环境的关键链路。其中 FlashKDA 此前已开源,MoonEP 和 AgentEnv 随本次发布正式开源。
文中提及的 AI 工具
评论
正在加载评论…