vLLM 评测五种推测解码：无通用赢家按需选择

vLLM 发布新博客，深入对比 MTP、EAGLE-3、DFlash 等 5 种推测解码方法在 AMD Instinct MI300X 和 MI355X 显卡上的性能表现，结论是没有通用的赢家，最佳选择取决于模型与工作负载。评论者也分享实测体验，如在 GH200 上测试 Qwen3.8-27B 时 DFlash2 在单流场景表现突出。

2026-08-28 ~ 2026-08-28 · 2 条相关