英伟达公布 Vera CPU 实测数据:智能体每瓦吞吐量领先 x86 平台

英伟达公布 Vera CPU 智能体实测数据,称其可同时实现领先的智能体执行速度与每瓦吞吐量,帮助数据中心在有限电力下运行更多智能体。

与传统生成式 AI 不同,智能体还需搜索资料、查询数据库并测试代码,大量依赖 CPU。英伟达认为,数据中心瓶颈正从算力转向速度、并发与能耗的平衡。

在 100 兆瓦数据中心场景测试中,Vera CPU 每瓦支持的智能体数量达最快 x86 CPU 的 1.6 倍,速度较能效最高的 x86 CPU 提升 2 倍。

合作方实测中,Perplexity 编码任务快 1.5 倍,DeepInfra 编排快至多 2.2 倍,Daytona 启动 1000 个智能体沙箱仅需 10.8 秒,Modal 每核心吞吐量达 x86 的 2 倍。

推广DomoAI

评论

正在加载评论…