EAGLE-4 投机解码开源,解码速度达 961.6 tokens/s
Eagle AI Corp 发布第四代投机解码方法 EAGLE-4,在 Qwen3.8-27B(BF16)上解码速度达 961.6 tokens/s,主打单个灵活 drafter 适配所有 batch size 与硬件。框架已以 eagleharness 之名在 GitHub 开源,通过引擎插件为 SGLang、vLLM 和 TokenSpeed 提供投机解码 draft 服务,方便开发者集成使用。
2026-10-21 ~ 2026-10-21 · 2 条相关
- EAGLE-4 发布:投机解码冲上 961.6 tokens/s,代码与仓库开源 — zhyncs42 · 2026-10-21
- EAGLE-4 投机解码框架开源,支持 SGLang 与 vLLM — testingcatalog · 2026-10-21