vLLM 性能追平 DeepSeek 官方引擎 DeepInfer,获 SemiAnalysis 基准验证
AccBalanced · x · 2026-10-26
vLLM 团队发文详解其在 DeepSeek-V4.1-Flash 上的性能优化成果，并经 SemiAnalysis 的 AgentX 基准独立验证。
- 在 DeepSeek 官方 decode 配置下，vLLM 在 batch size 8 到 256 全区间追平了 DeepSeek 自研推理引擎 DeepInfer 的性能曲线
- 对比条件更苛刻：vLLM 在 DEP32 配置下对阵 DeepInfer 的 EP64DP64
- DeepInfer 最初就是基于 vLLM 构建的；vLLM 通过集成 DeepSeek 开源 kernel,并对 prefill 与 decode 深度优化实现追平
所属事件:vLLM 追平 DeepSeek 自研引擎 DeepInfer，GB300 单卡 954K tokens/s(10 条相关)→
「Infra」频道最新
- SpaceX 40B 美元 GPU 融资曝光，算力已达 1.7GW — XFreeze · 2026-10-26
- Meta 拟融资最高 950 亿美元，全力押注 AI 扩张 — Polymarket · 2026-10-26
- NBIS CEO:上周起债市对 Neocloud 关门,改靠客户预付款续命 — zephyr_z9 · 2026-10-26
- CoreWeave 五年期 CDS 飙至约 1100bps，市场担忧 AI 泡沫以信贷危机开场 — kimmonismus · 2026-10-26
- AI 需求重塑云计算：算力稀缺、长期合约取代按需模式 — DavidLinthicum · 2026-10-26
- 黄仁勋：AI 工厂软件每 GPU 每年收约 2000 美元，百万卡即 20 亿美元 — LinusEkenstam · 2026-10-26