vLLM 追平 DeepSeek 自家引擎 DeepInfer,推理性能曲线已对齐
woosuk_k · x · 2026-10-25
vLLM 团队宣布，在 DeepSeek-V4.1-Flash 的官方 decode 配置上，vLLM 已在 batch size 8 到 256 的全区间内追平 DeepSeek 自研推理引擎 DeepInfer 的性能，且是在 DEP32 配置下对比 DeepInfer 的 EP64DP64。
- DeepInfer 最初就是基于 vLLM 构建；vLLM 通过集成 DeepSeek 的开源内核，并深度优化 prefill 与 decode，实现了性能曲线的对齐。
- vLLM 核心开发者 simonmo 解释力推 SemiAnalysis AgentX 基准的原因：它使用真实流量形态、实测接受率，并涉及 DeepSeek 模型的 EPLB 优化，能直接对应生产环境表现。
- 配图为 SemiAnalysis 对 DeepSeek V4.1 Flash 552B 的单芯片小时收入与利润估算：在 GB300 NVL72 上按 DeepSeek 官方定价（输入 $0.3/百万 tokens、缓存输入 $0.006、输出 $1.2），每芯片小时收入 $50.43、利润 $45.43，利润率约 90.1%（成本按 3 年租约、60% 利用率估算）。
所属事件:vLLM 追平 DeepSeek 自研引擎 DeepInfer，GB300 单卡 954K tokens/s(10 条相关)→
「Infra」频道最新
- SpaceX 40B 美元 GPU 融资曝光，算力已达 1.7GW — XFreeze · 2026-10-26
- Meta 拟融资最高 950 亿美元，全力押注 AI 扩张 — Polymarket · 2026-10-26
- NBIS CEO:上周起债市对 Neocloud 关门,改靠客户预付款续命 — zephyr_z9 · 2026-10-26
- CoreWeave 五年期 CDS 飙至约 1100bps，市场担忧 AI 泡沫以信贷危机开场 — kimmonismus · 2026-10-26
- AI 需求重塑云计算：算力稀缺、长期合约取代按需模式 — DavidLinthicum · 2026-10-26
- 黄仁勋：AI 工厂软件每 GPU 每年收约 2000 美元，百万卡即 20 亿美元 — LinusEkenstam · 2026-10-26