DeepSeek宣布全面开源DeepInfer推理框架及配套组件

2026年10月20日，深度求索公司宣布将内部推理框架DeepInfer全面开源，并同步开放生产级Token编解码组件deepseek-recipe。相关代码已在GitHub等开发者社区发布。

DeepInfer集成高性能算子与深度优化引擎，支持分布式推理、推测解码、SWA Bounded Replay及结构化输出，兼容英伟达与华为昇腾算力平台。配套组件的Token处理逻辑与官方API对齐。基于该框架，公司已实现DeepSeek V4.1 Flash的高吞吐低延迟服务，后续新模型优化将持续更新。