2DSD 投机解码可迁移至各类循环架构,吞吐最高提升 8 倍
LucaAmb · x · 2026-11-20
Arnav Chavan 指出 2DSD 开辟了投机解码的新维度:其加速不仅适用于 Looped AR 模型,还可迁移到任意循环架构,包括 Looped AR、Diffusion 与 Flows。吞吐量最高提升 8 倍,让循环式自回归模型更具吸引力。
团队已在 Hugging Face 发布 2DSD 模型集合(含多个主模型与 drafter 的 checkpoint),并开源了 GitHub 代码。
「Infra」频道最新
- 2DSD 投机解码加速 Looped LM,最高达 7.64 倍且更省 KV 内存 — LucaAmb · 2026-11-20
- 量子计算瞄准 AI 工作负载,IBM 与 QuEra 公布容错路线图 — mikeflache · 2026-11-20
- 腾讯财报电话会:最新出口管制将加速中国半导体自给自足 — basedjensen · 2026-11-20
- Chorus 论文:共享 n-gram 嵌入表缩小 87%,性能反超 DeepSeek Engram — brown2green · 2026-11-20
- 内存仅 20MB 的浏览器 IDE px0 发布,作者谈如何逐层做减法 — arpit_bhayani · 2026-11-20
- 清昴智能发起昇腾 950DT 万卡级 Token 工厂,算力利用率从 40% 提至 80% — 量子位 · 2026-11-20