SPOT:通过提交顺序预测将扩散语言模型解码加速最高6.8倍
Eliezer Shlomi · hf · 2026-10-28
Eliezer Shlomi 发布 SPOT,一种针对扩散语言模型(dLM)的投机解码加速方法:
- 核心想法:不再盲目并行去噪所有 token,而是让模型预测「token 的生成顺序」(commit-order),按顺序先提交高置信 token,再并行验证候选。
- 效果:最多减少 6.8 倍前向传播次数,同时保持精确解码(不改变输出分布)。
- 配图展示了在 SDAR-8B/GSM8K 上与 Draft-free、Spiffy 等基线的回放对比。
这是把传统自回归投机解码思想适配到扩散范式的一次新尝试。
「研究」频道最新
- NVIDIA 发布 Foundation4D:多相机视频统一 4D 感知与重建,免激光雷达 — Scobleizer · 2026-10-28
- Moving Atoms 用引擎把现实世界重建成高精度可交互 4D 模型 — Scobleizer · 2026-10-28
- Rachel Thomas 引经典论文：论证「不造技术」也是一种价值 — math_rachel · 2026-10-28
- Meta 开源级翻译系统 Omnilingual MT 覆盖 1600 种语言 — kalyan_kpl · 2026-10-28
- 用 logprobs 把 LLM 从硬分类器升级为可调阈值的软分类器 — JnBrymn · 2026-10-28
- cryoET 数据门户上线 xLPP 交叉激光相位板三组对比数据集 — ZhongingAlong · 2026-10-28