面壁智能联合清华大学、OpenBMB 开源社区正式发布并开源 BitCPM-CANN,这是中国首个完全基于华为昇腾算力平台实现端到端训练的三值(1.58-bit)大模型。该模型包含 0.5B、1B、3B、8B 四个尺寸,与同尺寸 MiniCPM4 全精度家族对比评测,性能表现优异。
相比传统 BF16 精度,BitCPM-CANN 在推理阶段释放约 6 倍显存红利,模型能力保留率维持在 90%–97.2%。这意味着一个 8B 参数的模型可轻松运行在当前主流旗舰手机上,为手机产业带来大模型部署新可能。
面壁智能基于 MindSpeed × Megatron-LM 搭建了完整低比特训练底座,支持环境适配、32K 长序列、并行策略与融合算子等。所有面向昇腾的低比特训练工作均可建立在该公共基础设施之上。BitCPM-CANN 全系列模型权重已在 HuggingFace 和 ModelScope 开源。
文中提及的 AI 工具
评论
正在加载评论…