vLLM 三周优化让 DeepSeek-V4.1-Flash 吞吐最高提升 5.3 倍

vLLM 团队在 DeepSeek-V4.1-Flash 发布后的三周内完成多项推理栈优化：低并发场景下提速 1.9 倍，在 SemiAnalysis AgentX 基准约 150 项任务下 agent 吞吐提升 5.3 倍，借助 SWA bounded replay 等技术在约 10 万级吞吐下首 token 延迟（TTFT）下降近 70%。内核层面还集成了 DeepSeek 的 MegaAttention，进一步提升整体性能。

2026-10-08 ~ 2026-10-08 · 3 条相关

• 三周优化,vLLM 上 DeepSeek-V4.1-Flash 吞吐提升 5.3 倍 — vllm_project · 2026-10-08
• vLLM 集成 DeepSeek 内核，10 万级吞吐下 TTFT 降近 70% — vllm_project · 2026-10-08
• DeepSeek-V4.1-Flash 在 vLLM 上 agent 吞吐提升 5 倍 — vllm_project · 2026-10-08