论文提出 Uno:离散扩散为 LLM 带来无损推理加速
arXiv 论文《Unlocking Lossless Speedups in LLMs via Discrete Diffusion》提出 Uno 方法:保留原自回归模型保证质量,用 LoRA 蒸馏的轻量 diffusion adapter 结合 Ψ-Spec 采样并行起草多个 token,再由原模型验证,不改变输出分布。在 Qwen3-8B 上单请求吞吐提升 2.5 倍,可缓解长轨迹与并发 agent 负载下的延迟与成本问题。作者还回应了与 Orthrus 工作撞车的质疑。
2026-09-08 ~ 2026-09-09 · 4 条相关
- 第 1 集:论文提出 Uno:离散扩散为 LLM 带来无损推理加速(2026-09-08,4 条)
- 第 2 集:IFM AI 发布扩散增强 LLM「Uno」无损提速 2.2 倍(2026-09-18,2 条)
- Uno 扩散增强 LLM:LoRA 蒸馏+Ψ-Spec 采样实现无损并行生成 — burkov · 2026-09-08
- Uno 用扩散并行起草提速 Qwen3-8B,单请求吞吐提升 2.5 倍 — rohanpaul_ai · 2026-09-09
- arXiv 论文详解 Uno:扩散蒸馏为 LLM 带来无损推理加速 — rohanpaul_ai · 2026-09-09
- 新论文用离散扩散为 LLM 提速,作者回应与 Orthrus 撞车质疑 — _akhaliq · 2026-09-09