Qwen3-8B推测解码草稿模型横评结果出炉

社区对多个针对 Qwen3-8B 的推测解码草稿模型进行横评：在思考模式下，WhiFlash/Qwen 草稿模型的 token 命中率领先；关闭 thinking 时，AngelSpec DFly 的 top-1 首 token 表现超越 EAGLE-3 系列。评测起源于一条关于注意力头训练的推文串，作者随后发布了更新的 artifact、代码仓库及基准表格，方便开发者选择合适的草稿模型以加速推理。

2026-11-12 ~ 2026-11-12 · 2 条相关