EAGLE-4 推测解码提速 3.59 倍,力压 DFlash 2 与 DSpark

TKGaming_11 · reddit · 2026-10-21

EAGLE-4 正式发布(官方推理代码已开源),在 Qwen3.8-27B 上实测成为目前最快的推测解码方案。

Qwen3.8-27B 加速对比:

目前仅支持 Qwen3.8-27B,作者期待其落地 llama.cpp/vLLM。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →