DeepSeek 开源 DeepInfer：V4.1 Flash 推理毛利率最高约 93%
teortaxesTex · x · 2026-10-21
DeepSeek 发布全开源推理框架 DeepInfer，支撑 V4.1 Flash 的线上服务，并罕见公布了生产环境实测数据，引发外界对其经济账的核算。
- 技术要点：高性能算子与推理引擎、深度推理调度、speculative decoding、SWA Bounded Replay、结构化输出，支持 NVIDIA 与华为昇腾平台，含生产级 prefill/decode 分离组件 deepseek-recipe。
- 实测性能：单集群日吞吐 155 万亿 token，平均时延 23ms、缓存命中率约 71.3%；100 万上下文可做到 200+ TPS、缓存保留 72 小时。
- 价格：缓存命中/未命中/输出分别约 $0.003/$0.15/$0.6（off-peak）。
- 第三方算账：社区核算显示单对 GPU 时收入约 $78.2/h（对齐官方 $38/GPU-h 报价），在自有 GB200 成本 $2.50/hr 下毛利率达 93.4%，CoreWeave 租卡也有 72%；盈亏平衡点为 $38/GPU-h（decode 单独 $30）。Zephyr 估算其毛利在 84.2%–96.1%，按集群规模推算日收入约 $220 万，并以约 $40–50B/GW 的算力成本推得每吉瓦年推理收入可达 $200B 量级，认为 DeepSeek 定价意在把推理压成薄利大宗商品。
所属事件:DeepSeek 开源推理框架 DeepInfer 及 token 编解码组件(49 条相关)→
「Infra」频道最新
- antirez 试用 DHH 赠送的 Omarchy 系统,计划适配大模型 SSD 流式加载 — antirez · 2026-10-21
- 传 NVIDIA 中国订单达 350 亿美元，实际只能交付 5-10% — emmanuelvivier · 2026-10-21
- 传英伟达中国订单达350亿美元，实际供货仅5–10% — emmanuelvivier · 2026-10-21
- willcb 补充:前沿实验室开源大部分生产推理栈确实难得,但今天无重大新技术 — willcb · 2026-10-21
- swyx 回应质疑:供不应求的市场里,token 越多收入越高而非价格越低 — swyx · 2026-10-21
- Qwen3.8-Flash-Next 压到 1.66bpw 仍稳定，完整塞进单张 5090 — Unstable_Llama · 2026-10-21