EAGLE-4 投机解码开源发布
Eagle AI Corp 正式发布第四代投机解码方法 EAGLE-4，并同步开源官方推理代码，主打「One Flexible Drafter for All Batch Sizes and Hardware」。目前其官方定位、开源仓库与多项实测数据已由多方交叉确认。
已确认
- 官方推理代码已在 GitHub 开源（m1、m5），仓库以 eagleharness 之名提供（m2），通过引擎插件为 SGLang、vLLM 和 TokenSpeed 提供投机解码 draft 服务（m2），开源仓库发布时已有 162 star（m5）
- 官方在 Qwen3.8-27B（BF16，4×B300，TP4，单请求，T=0）上配合 TokenSpeed 达到 961.6 tokens/s（m3）
- 在 Qwen3.8-27B 上的加速对比：EAGLE-4 为 3.59×，超过 DFlash 2（2.80×）、DSpark（2.57×）和 MTP（2.22×），成为目前该模型上最快的推测解码方案（m1）
- 配套发布了 Qwen3.8-27B 的 drafter（m5）
- LightSeek 发布 EAGLE-4 训练与服务技术详解：用 TorchSpec 训练 drafter，用 TokenSpeed 提供完整推理支持；推测过程无损；agentic 编码场景提速最高 5.21×（m4）
为什么重要
- 投机解码是大模型推理降本提速的关键路径，EAGLE-4 以单一 drafter 覆盖不同 batch size 与硬件，并保持无损输出，直接服务于 SGLang、vLLM 等主流推理框架的落地
- 官方与第三方（LightSeek、TKGaming11 的实测转述）数据互相印证，显示其在 Qwen3.8-27B 上确实领先同类方案 DFlash 2 与 DSpark
- 训练（TorchSpec）与服务（TokenSpeed）链路均有公开细节，便于社区复现与二次开发
2026-10-21 ~ 2026-10-21 · 5 条相关
一手来源
- EAGLE-4 推测解码提速 3.59 倍，力压 DFlash 2 与 DSpark — TKGaming_11 ·
- EAGLE-4 投机解码框架开源，支持 SGLang 与 vLLM — testingcatalog ·
- EAGLE-4 投机解码实测：agentic 编码场景提速最高 5.21 倍 — zhyncs42 ·
- EAGLE-4 发布：投机解码冲上 961.6 tokens/s，代码与仓库开源 — zhyncs42 · 2026-10-21
- 【源头】EAGLE-4 投机解码实测：agentic 编码场景提速最高 5.21 倍 — zhyncs42 · 2026-10-21
- 【源头】EAGLE-4 投机解码框架开源，支持 SGLang 与 vLLM — testingcatalog · 2026-10-21
- 【源头】EAGLE-4 推测解码提速 3.59 倍，力压 DFlash 2 与 DSpark — TKGaming_11 · 2026-10-21
- 推测解码 EAGLE-4 开源,单一 Drafter 适配全批次与硬件 — rohanpaul_ai · 2026-10-21