OpenAI 与博通合作开发的 AI 推理 ASIC 芯片 Jalapeño,基于 3nm 工艺制程,由台积电代工,目标在 2024 年底实现初步部署。该芯片专为优化大型语言模型推理性能设计,包含 8 个 HBM 堆栈和双 Die 主 SoC。
双方已规划第二代 AI ASIC 项目,有望采用台积电 A16 节点,利用背面供电技术提升密度与性能。此举旨在降低 OpenAI 对英伟达 GPU 的依赖,提升 AI 推理效率。
文中提及的 AI 工具
OpenAI 与博通合作开发的 AI 推理 ASIC 芯片 Jalapeño,基于 3nm 工艺制程,由台积电代工,目标在 2024 年底实现初步部署。该芯片专为优化大型语言模型推理性能设计,包含 8 个 HBM 堆栈和双 Die 主 SoC。
双方已规划第二代 AI ASIC 项目,有望采用台积电 A16 节点,利用背面供电技术提升密度与性能。此举旨在降低 OpenAI 对英伟达 GPU 的依赖,提升 AI 推理效率。
评论
正在加载评论…