美团今日发布新一代万亿参数大模型 LongCat-2.0,并宣布对外开源。该模型总参数达 1.6T,平均激活约 48B,动态范围 33B-56B,从零开始预训练,原生支持 1M 超长上下文。预览版已通过 OpenRouter 和 longcat.ai 开放调用,目前跻身 OpenRouter 全球大模型调用量前三。
LongCat-2.0 在五万卡国产算力集群上完成全流程训练与推理,预训练数据规模超 30T tokens,覆盖中英文、多语言和代码。团队通过 HCCL 异常处理、弹性扩缩卡等技术将月均日故障率降低 70%以上,训练 MFU 提升 1.5 倍,实现稳态日吞吐超 1T tokens。
该模型采用 LongCat Sparse Attention(LSA)稀疏注意力机制,将长文本处理计算量从平方级降至线性级,在 100 万 Token 上下文中保持信息定位能力。通过零计算专家实现 token 级动态激活,简单 token 不消耗算力,复杂 token 自动获得更多资源。MOPD 架构融合 Agent、Reasoning、Interaction 三组专家,由门控网络动态调度。
在编程能力方面,LongCat-2.0 在 SWE-bench Pro 获 59.5,领先 Gemini 3.1 Pro(54.2)、GPT-5.5(58.6)和 Claude Opus 4.6(57.3);在 SWE-bench Multilingual 中获 77.3,与 Claude Opus 4.6(77.8)持平;Terminal-Bench 2.1 中获 70.8。在真实办公场景中,RWSearch 获 78.8,FORTE 获 73.2,BrowseComp 获 79.9,接近前沿闭源模型水平。
评论
正在加载评论…