OpenAI 于 8 月 25 日发布其首款自研 AI 推理芯片 Jalapeño,该芯片由 OpenAI 与博通合作开发,台积电 3nm 制程制造,专为大语言模型推理设计。测试显示,Jalapeño 在运行 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 模型时,每瓦吞吐量是英伟达 GB200 和 GB300 系统的 1.5 至 1.9 倍,端到端延迟仅为对比系统的 28%至 59%。
文中提及的 AI 工具
OpenAI 于 8 月 25 日发布其首款自研 AI 推理芯片 Jalapeño,该芯片由 OpenAI 与博通合作开发,台积电 3nm 制程制造,专为大语言模型推理设计。测试显示,Jalapeño 在运行 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 模型时,每瓦吞吐量是英伟达 GB200 和 GB300 系统的 1.5 至 1.9 倍,端到端延迟仅为对比系统的 28%至 59%。
评论
正在加载评论…