英伟达与 d-Matrix 合作，异构 AI 推理性能提升 10 倍

AI 芯片巨头英伟达与初创公司 d-Matrix 合作，通过结合英伟达的 Hopper/Blackwell GPU 与 d-Matrix 的 Corsair ASIC，构建混合算力基础设施。该方案在 Neocloud 企业 Parasail 中实现 10 倍的 Token 生成速率提升。

d-Matrix 的 Corsair 采用 D-IMC 架构，将计算单元和 SRAM 集成在同一芯片上，降低数据传输开销。Parasail 利用英伟达 GPU 处理推理前端的预填充任务，而 Corsair 则负责后端的延迟敏感型解码任务。

d-Matrix 创始人 Sid Sheth 表示，GPU 和专用推理加速器并非竞争关系，而是相辅相成。这种异构推理方法旨在优化 AI 工作负载的每个阶段，为推理未来提供新思路。