摩尔线程发布 Prefill-as-a-Service 白皮书，优化长上下文推理成本

摩尔线程发布《MTT S5000 Prefill-as-a-Service 技术白皮书》，基于旗舰级 AI 训推一体智算卡 MTT S5000，推出针对 AI Agent、代码生成和超长文档分析等长上下文推理场景的新范式。该方案旨在解决大模型输入规模达数百 K 至 1M 级别时，长文本处理带来的算力消耗和首字时延压力。传统同构集群难以满足不同计算阶段的差异化需求，导致资源错配和浪费。白皮书提出将 Prefill（预填充，计算密集型）与 Decode（解码，访存密集型）彻底解耦，分别部署在专用硬件资源池中，实现算力按需匹配，降低单位 Token 基础设施成本，同时保证服务质量。