英伟达宣布其 Blackwell 平台已适配 DeepSeek-V4-Pro 与 DeepSeek-V4-Flash 两款模型,开发者可通过 NVIDIA NIM 微服务下载部署,或利用 SGLang 与 vLLM 框架进行定制化推理。
DeepSeek-V4-Pro 拥有 1.6T 总参数量与 49B 激活参数,定位高级推理任务;Flash 版本则为 284B 总参数量与 13B 激活参数,主打高速场景。两款模型均支持 100 万 Token 上下文窗口,采用 MIT 开源协议。
实测显示,DeepSeek-V4-Pro 在 NVIDIA GB200 NVL72 上开箱性能超 150 tokens/sec/user,未来经 Dynamo、NVFP4 及 CUDA 内核优化后性能将进一步提升。
文中提及的 AI 工具
评论
正在加载评论…