vLLM 内置 DSpark 与 Mistral Large 4 量化权重，吞吐最高提升逾两倍

vLLM 项目发布两项更新：一是内置 DSpark 支持，实测输出吞吐显著提升，FP8 下达 1.92–2.16 倍，NVFP4（Blackwell）下达 2.00–2.23 倍；二是由 Mistral 主导实现，发布 Mistral Large 4（1T 参数、A52B MoE）的 FP8 与 NVFP4 量化权重，FP8 下吞吐约提升 2 倍。

2026-10-29 ~ 2026-10-29 · 2 条相关

• vLLM 内置 DSpark 带来最高 2.23 倍输出吞吐提升 — vllm_project · 2026-10-29
• Mistral Large 4 量化权重登陆 vLLM：FP8 吞吐提升约 2 倍 — vllm_project · 2026-10-29