EAGLE-4 发布：投机解码冲上 961.6 tokens/s，代码与仓库开源
zhyncs42 · x · 2026-10-21
Eagle AI Corp 发布第四代投机解码方法 EAGLE-4，主打「一个灵活 drafter 适配所有 batch size 和硬件」。在 Qwen3.8-27B（BF16，4×B300，TP4，单请求，T=0）上配合 TokenSpeed 达到 961.6 tokens/s 的解码速度。推理代码已在 GitHub 开源（含论文 PDF 与 Qwen3.8-27B 的 drafter 权重），支持 vLLM/SGLang 等引擎生态。
所属事件:EAGLE-4 投机解码开源，解码速度达 961.6 tokens/s(2 条相关)→
「Infra」频道最新
- Shotwell:Starlink 已签约约 1.2 万架飞机,占全球可装机四分之一 — XFreeze · 2026-10-21
- 三星电机与美光签约 3600 亿韩元，AI 服务器基板长期供货 — demian_ai · 2026-10-21
- David Ondrej 对谈 Ahmad Osman:本地跑 AI 全攻略与 DGX Spark 对比 — David Ondrej · 2026-10-21
- 8GB 显卡跑 Qwen Flash:换 STRATA+ CachyOS 后从 9t/s 飙到 48t/s — Ne00n · 2026-10-21
- 新泽西启动超算计划:超 1.25 亿美元翻倍高校算力,NVIDIA 联合创始人站台 — Prof_DavidBader · 2026-10-21
- AI 基建公司 ASI 宣布 3.25 亿美元 C 轮,做关键物理设施的「自动神经系统」 — darian314 · 2026-10-21