EAGLE-4 投机解码框架开源，支持 SGLang 与 vLLM
testingcatalog · x · 2026-10-21
EAGLE-4 已在 GitHub 以 eagleharness 之名开源，通过引擎插件为 SGLang、vLLM 和 TokenSpeed 提供投机解码 draft 服务，官方定位是「一个灵活 draft 模型适配所有 batch size 与硬件」。
- 仓库包含官方推理代码、文档、测试与论文 PDF（EAGLE4Paper.pdf），附商业授权协议文件
- 同步发布了针对 Qwen3 27B 的 EAGLE-4 Draft Model（HuggingFace 可下载）及配套研究论文
- 团队还提供了在线测试链接，可直接体验加速效果
所属事件:EAGLE-4 投机解码开源，解码速度达 961.6 tokens/s(2 条相关)→
「Infra」频道最新
- ai& 自称日本最大推理平台:自建 100MW+ 数据中心,涉 LLM 与药物设计 — DavidBennett__ · 2026-10-21
- 传 SpaceX 2027 年新增 10GW 算力，现有仅 1.7GW — beffjezos · 2026-10-21
- 马斯克四处租算力碰壁：GB300、TPU、H100 全都租不到 — XFreeze · 2026-10-21
- Cloudflare 披露 eMudhra 8 张中级证书私钥泄露，全网紧急加固 — Cloudflare Blog · 2026-10-21
- Shotwell:Starlink 已签约约 1.2 万架飞机,占全球可装机四分之一 — XFreeze · 2026-10-21
- 三星电机与美光签约 3600 亿韩元，AI 服务器基板长期供货 — demian_ai · 2026-10-21