蚂蚁百灵宣布开源 Ling-3.1-flash 模型,总参数约 560B,每 Token 激活约 25B,最高支持 1M 上下文,Artificial Analysis 评测智能指数为 41,输出速度约每秒 210 Token。
本地部署采用 MXFP4 量化,权重占用从约 534GB 降至 292GB,Hopper GPU 环境下由 8 卡降至 4 卡,降低企业部署门槛。
长资料场景经算子融合与投机解码优化,8 卡配置平均首 Token 时间 604 毫秒,4 卡吞吐约 1.36 QPS,为容量规划提供参考。
模型已在 Hugging Face 与 ModelScope 开放下载,目前提供限时 2.5 折优惠,OpenRouter 输入 0.075 美元、输出 0.225 美元。
文中提及的 AI 工具
评论
正在加载评论…