IBM 与 Together AI 达成 2.4 亿美元合作，部署 NVIDIA HGX B300 集群支持开源模型推理

IBM 于美国当地时间 8 月 11 日宣布与 AI 云平台 Together AI 达成一项为期多年、总额 2.4 亿美元的合作协议。根据协议，IBM 将在其 IBM Cloud 上部署一个 NVIDIA HGX B300 集群，以支持 Together AI 的开源模型推理服务，该系统预计于 2027 年第一季度投入使用。

此次部署是首个基于 IBM Cloud、采用 NVIDIA HGX B300 系统与 Spectrum-X 以太网技术构建的大规模推理专用集群。Together AI 首席执行官 Vipul Ved Prakash 表示，企业希望获得先进的模型性能，同时避免封闭模型的高昂成本，而可靠、可快速扩展的基础设施是实现这一目标的关键。

Together AI 近期以 83 亿美元估值完成 8 亿美元 C 轮融资，月处理词元能力达 400 万亿。此次合作将推动开源 AI 在企业中的广泛应用，为用户提供生产级推理能力。