DeepSeek 全面开源推理框架 DeepInfer，降低大模型服务算力成本

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步公开生产级 Token 编解码组件 deepseek-recipe，代码均已托管至 GitHub。此前该公司已陆续开源多款大模型及 TileLang 编译工具。

DeepInfer 集成高性能算子与深度优化引擎，支持分布式推理、推测解码、结构化输出等能力，兼容英伟达与华为昇腾平台。deepseek-recipe 与官方 API 处理逻辑完整对齐，确保社区获得一致的接口体验。

DeepSeek 已基于该框架实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务，未来新模型的推理代码及优化将在社区持续更新。

DeepSeek 表示，推理框架负责调度庞大算力集群，其效率直接决定 AI 服务的算力成本与电力消耗。此举旨在帮助开发者降低算力成本、减少能源消耗，让智能以更低价格触达更多人群，实现大模型普惠。