复旦 D3D 论文:解耦扩散草稿模型实现异步投机解码加速
Fudan-University · hf · 2026-11-06
复旦大学等机构发布论文 D3D(Decoupled Diffusion Drafting),提出独立的扩散草稿模型,移除对目标模型隐藏状态的依赖,实现异步投机解码。
- 现有 target-conditioned 扩散草稿器虽能并行预测候选 token,但每个新块都要等待目标模型更新隐藏状态,导致草稿与验证只能串行,限制加速
- D3D 结合分块去噪与辅助自回归监督,在不依赖目标隐藏状态的情况下获得长接受前缀,可在验证期间一次性打包生成后续块
- 按对接受长度的影响逐步剪层:36 层中移除 5 层仍保留超 99% 的平均接受长度,大幅降低打包草稿的成本
「Infra」频道最新
- Ripple-65B 开源预览版上线：12 万亿 token 训练，TerminalBench 2.1 得 80.52 — annadgoldie · 2026-11-06
- 蓝色起源发布 Northstar 发动机：推力 71.5 万磅，比 BE-4 轻 30% — beffjezos · 2026-11-06
- 逐 token 打草稿成新瓶颈，DFlash 改为整块并行草稿加速推理 — Lianhuiq · 2026-11-06
- 一张桌面 B70 跑起全 AI 电台：边直播边本地生成音乐 — prince_pringle · 2026-11-06
- vLLM 团队创办的 Inferact 日处理 token 超 7 万亿 — Xianbao_QIAN · 2026-11-06
- Q-CTRL 上线 Dynamics Simulator,一次调用跑材料科学量子模拟 — MJBiercuk · 2026-11-06