论文提出 Uno:离散扩散为 LLM 带来无损推理加速

arXiv 论文《Unlocking Lossless Speedups in LLMs via Discrete Diffusion》提出 Uno 方法:保留原自回归模型保证质量,用 LoRA 蒸馏的轻量 diffusion adapter 结合 Ψ-Spec 采样并行起草多个 token,再由原模型验证,不改变输出分布。在 Qwen3-8B 上单请求吞吐提升 2.5 倍,可缓解长轨迹与并发 agent 负载下的延迟与成本问题。作者还回应了与 Orthrus 工作撞车的质疑。

2026-09-08 ~ 2026-09-09 · 4 条相关

事件全程(共 2 集)→