初创公司 Majestic Labs 近日推出 Prometheus AI 服务器,采用 AIU(Ignite AI 处理单元)与 LPDDR6 内存的组合,旨在替代英伟达的 GPU+HBM 方案。该服务器不使用 GPU,而是将 Arm 核心与 RISC-V 向量及张量引擎结合,每台最多可配置 12 个 AIU 和 8TB 至 128TB 的 LPDDR6 内存。
一台标准 40U 机架可安装 4 台 Prometheus 服务器,总功耗 120kW,采用液冷散热系统。官方宣称,一台 Majestic 机柜的内存容量相当于 25 个英伟达 NVL72 Vera Rubin 机柜,且功耗更低。该服务器预计明年上市,符合 OCP 标准,兼容 PyTorch、vLLM 和 OpenAI Triton 框架。
文中提及的 AI 工具
评论
正在加载评论…