2DSD 投机解码可迁移至各类循环架构,吞吐最高提升 8 倍

LucaAmb · x · 2026-11-20

Arnav Chavan 指出 2DSD 开辟了投机解码的新维度:其加速不仅适用于 Looped AR 模型,还可迁移到任意循环架构,包括 Looped AR、Diffusion 与 Flows。吞吐量最高提升 8 倍,让循环式自回归模型更具吸引力。

团队已在 Hugging Face 发布 2DSD 模型集合(含多个主模型与 drafter 的 checkpoint),并开源了 GitHub 代码。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →