AMD 携手 EAGLE 团队推出 EAGLE-4：MI355X 上投机解码最高提速 1.6 倍
hongyangzh · x · 2026-10-21
AMD AI 与 EAGLE Corp 合作，在 AMD Instinct MI355X GPU 上实现 EAGLE-4 投机解码的 Day 0 支持。核心思路是「让 drafter 测量硬件」：EAGLE-Harness 在启动时对 drafting 与 verification 的成本做性能剖析，然后针对当前负载动态选择最优的猜测树（guess tree）。
在 Qwen3.8-27B（BF16、单卡）上：单请求约 300 tok/s，比内置 MTP 快 1.6 倍，1-32 路并发下性能保持稳定，且与普通解码无损一致（包括通过 FlyDSL 树验证支持的 Gated DeltaNet 层）。AMD 还发布了 SGLang 与 ATOM 的启动脚本。
「Infra」频道最新
- 曝字节阿里腾讯向英伟达下单超 350 亿美元芯片,含 300 万块 RTX Pro — Ok_Warning2146 · 2026-10-21
- DeepSeek 据称在华为昇腾 950 上实现超高效大规模推理 — teortaxesTex · 2026-10-21
- 路透独家：字节、阿里、腾讯向英伟达下单超 350 亿美元芯片 — Scobleizer · 2026-10-21
- DeepSeek 曝单集群日处理 155 万亿 token,毛利约 82% — ssh4net · 2026-10-21
- M1 Max 64GB 跑本地 32B-120B 模型：吐槽 LM Studio 报错与选型难 — Food4Lessy · 2026-10-21
- vLLM 宣布复现 DeepSeek 推理性能，每 GPU 时收入达 39 美元 — vllm_project · 2026-10-21