OpenAI 通过系统优化将 AI 推理成本降低 50%以上

OpenAI 工程师透露，公司通过一系列系统底层优化，成功将 AI 模型的推理成本降低 50%以上。推理成本指模型响应用户请求时消耗的计算资源。

此次优化主要依靠提升现有服务器资源利用率，而非新增计算芯片。这使得运行 AI 系统所需的英伟达芯片更少，节省的成本可用于降低 API 定价或提高用户使用限额。