DeepSeek 开源 DeepInfer:单集群日吞 155 万亿 token,每卡时收 $38
Yuchenj_UW · x · 2026-10-21
DeepSeek 官方宣布开源大规模云服务推理框架 DeepInfer,并罕见地公开了经营数据:基于该框架为 DeepSeek V4.1 Flash 提供高吞吐、低延迟推理服务,单集群吞吐达 155 万亿 token/天,整体收入为每卡每小时 $38(按错峰价格计算)。此前他们已开源 TileLang 及一系列推理算子库。
Yuchen Jin 分析称,DeepInfer 同时支持 NVIDIA Blackwell 和华为昇腾,官方未披露具体用的哪种 GPU;但即便假设租用的是 $7/GPU-小时的 B300,粗算毛利率也高达约 82%——等于把收入账本一起开源了。
所属事件:DeepSeek 开源自研推理框架 DeepInfer 及 deepseek-recipe(40 条相关)→
「Infra」频道最新
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21
- Google 联合 Red Hat 发布 llm-d 1.0，K8s 原生分布式推理栈 — rseroter · 2026-10-21
- acs infra 上线免费 base model API，开放 Llama 3.1 8B/405B 供研究者使用 — amplifiedamp · 2026-10-21
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21
- 黄仁勋指引明年营收增70%仍供不应求,一人唱衰韩云IPO难改算力荒 — firstadopter · 2026-10-21