EAGLE-4 投机解码开源,解码速度达 961.6 tokens/s

Eagle AI Corp 发布第四代投机解码方法 EAGLE-4,在 Qwen3.8-27B(BF16)上解码速度达 961.6 tokens/s,主打单个灵活 drafter 适配所有 batch size 与硬件。框架已以 eagleharness 之名在 GitHub 开源,通过引擎插件为 SGLang、vLLM 和 TokenSpeed 提供投机解码 draft 服务,方便开发者集成使用。

2026-10-21 ~ 2026-10-21 · 2 条相关