vLLM 公布 P/D 原型与 MTP3 实测结果

vLLM 项目公布预发布实测数据:P/D(prefill/decode 分离)原型在 12 张 GB300 上运行,架构为 DEP4 prefill 连接 DEP8 decode,前缀命中率达 91.24%。同时在 B300 DEP8 环境下对 MTP3 与基线进行对比验证,AIME25 得分从 0.9500 升至 0.9667 且零错误,GPQA 从 0.9268 小幅变动至 0.92 左右,显示出新方案在性能与准确性上的双重亮点。

2026-10-15 ~ 2026-10-15 · 2 条相关

• vLLM MTP3 验证:B300 上 AIME25 升至 0.9667 且零错误 — vllm_project · 2026-10-15
• vLLM P/D 原型实测:12×GB300 上前缀命中率 91.24% — vllm_project · 2026-10-15