英伟达近日推出其迄今为止最强的开源权重 AI 模型 Nemotron 3 Super,拥有 1200 亿参数,采用混合专家(MoE)架构(推理时仅激活 120 亿参数),专为大规模复杂智能体系统设计。Perplexity、Palantir 等企业已将其应用于搜索、软件开发等领域。
该模型配备 100 万 Token 上下文窗口,解决多智能体交互中的“上下文爆炸”和“推理税”问题。通过 MoE 架构和潜在 MoE 技术,吞吐量提升 5 倍,准确率翻倍,在 Blackwell 平台上推理速度快 4 倍。
英伟达开放了模型权重和训练方法,开发者可通过 Hugging Face、谷歌云等渠道获取,也可作为 NIM 微服务部署到本地或云端。
文中提及的 AI 工具
评论
正在加载评论…