产业 / 媒体
DeepSeek 开源推理引擎 DeepInfer,进一步压低全球 AI 运行成本
DeepSeek 正式以 Apache License 2.0 协议开源其内部推理框架 DeepInfer——这正是支撑其最快、最廉价模型 V4.1-Flash 高效运行的核心服务软件。DeepInfer 在 vLLM 基础上进行了深度优化,涵盖定制化计算内核、跨多芯片分布式处理以及更快速的文本生成技术。与此同时,DeepSeek 还一并发布了 deepseek-recipe,用于复现官方 API 的 token 处理逻辑,使自托管环境与官方服务行为保持一致。DeepSeek 表示,此次开源旨在帮助社区降低算力成本、减少能耗,让 AI 更加普惠。然而,这一举措也在商业层面对 OpenAI、Anthropic 等西方 AI 服务商构成直接的价格冲击。在中美 AI 竞争持续升温的背景下,此次开源行动的战略意图同样值得关注。
DeepSeek 于 2026 年 10 月 20 日宣布,以 Apache License 2.0 协议开源其内部推理框架 DeepInfer。所谓推理,是指已训练好的 AI 模型处理用户请求并生成回应的过程,而 DeepInfer 正是让 V4.1-Flash 模型能够在大规模并发场景下快速输出答案的服务层软件。此次开源意味着任何开发者或机构都可以免费获取、修改并部署这套框架。
DeepInfer 以开源推理框架 vLLM 为基础,在此之上叠加了多项工程优化:定制化的计算内核可提升单次推理的硬件利用率,跨多芯片的分布式处理能力支持更大规模的并行部署,而改进后的文本生成技术则进一步缩短了端到端响应延迟。DeepSeek 同时承诺,未来新模型的代码也将以开源形式发布,形成持续开放的生态。
配套工具 deepseek-recipe 的同步发布同样值得关注。该工具能够精确复现 DeepSeek 官方 API 的 token 处理逻辑,确保自托管部署与官方服务在行为上保持高度一致。这对于希望在私有环境中运行 DeepSeek 模型、同时又需要与官方接口保持兼容的企业用户而言,具有重要的实用价值。
从商业影响来看,DeepSeek 的模型定价本已处于业内极低水平,DeepInfer 的开源进一步填补了自托管场景下的成本优化空间,令整体运行费用再度下探。这对 OpenAI、Anthropic 等依赖 API 调用收费的西方 AI 服务商构成直接压力——当用户可以以更低成本自行部署同等性能的模型时,付费订阅的吸引力将被显著削弱。
在更宏观的地缘政治视角下,此次开源行动的时机与意图同样耐人寻味。中美两国在 AI 领域的竞争持续加剧,DeepSeek 以开源方式向全球开发者社区输出技术影响力,既能快速扩大生态规模,也可能对西方 AI 企业的商业增长目标形成干扰。若西方头部 AI 公司因此错失营收预期,其连锁反应将不仅限于企业层面,更可能波及更广泛的经济与技术格局。
要点
- DeepSeek 以 Apache 2.0 协议开源推理框架 DeepInfer,任何人均可免费获取并部署驱动 V4.1-Flash 的核心服务软件。
- DeepInfer 基于 vLLM 构建,集成定制计算内核、多芯片分布式处理及加速文本生成技术,显著降低自托管算力成本与能耗。
- 配套工具 deepseek-recipe 可复现官方 API 的 token 处理逻辑,保障自托管环境与官方服务行为一致。
- 此次开源对 OpenAI、Anthropic 等西方 AI 服务商形成新一轮价格压力,付费 API 模式的竞争优势进一步收窄。
- 在中美 AI 竞争背景下,DeepSeek 的开源策略兼具技术生态扩张与地缘战略双重意涵。
原始标题:Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。