Uno 扩散增强 LLM：无损并行生成，速度超 EAGLE-3
来自伊利诺伊大学、康奈尔、Cerebras 等机构的研究团队（论文作者含 Eric Xing、Zhongzhou/Zhengzhong Liu 等，ssahoo 为发布者之一）提出「扩散增强 LLM」新架构 Uno，目标是同时解决扩散 LLM 相对自回归（AR）模型的两大短板：生成质量更低、大批量推理时更慢。IFM 团队同步发布了配套模型 K2-Horizon-7B-Uno。该工作试图在不牺牲 AR 模型质量前提下获得扩散模型的并行生成能力，但社区实测已对其性能声称提出质疑。
已确认
- 核心设计：保留 LLM 的自回归架构，每层同时持有两组权重——标准 NTP 训练的 AR 权重与通过扩散适配训练得到的扩散权重，辅以 AR 验证
- 推理机制：在标准自回归模型分布上，用扩散过程从同一分布并行抽取多个 token，因此既不需要投机解码那样的独立 draft 模型，也不牺牲被替换模型的质量（作者称「无损并行」），无需草稿模型即可实现无损约 3 倍加速
- 官方声称的性能：8B 规模的 Uno 跑赢 26B 的 DiffusionGemma 与 Mercury 2；推理速度超过 EAGLE-3 投机解码以及全部已有扩散 LLM；大批量推理更快
- 模型发布：IFM 团队发布 K2-Horizon-7B-Uno
尚未确认
- @joaogante 转述的社区讨论显示，有实测者质疑 Uno「超越同级」的声称存在夸大，复现结果与论文宣称存在出入；该争议尚无定论
为什么重要
- 投机解码（如 EAGLE-3）需要额外 draft 模型且替换策略可能损失质量，Uno 声称从同一分布并行采样，若成立则同时解决质量与吞吐两个痛点
- 该方向为扩散 LLM 与 AR LLM 的融合提供了新范式，但性能声称已在社区引发争议，实际效果需更多独立复现验证
2026-09-04 ~ 2026-09-06 · 6 条相关
一手来源
- 扩散增强 LLM「Uno」：8B 跑赢 26B DiffusionGemma 与 Mercury 2 — iScienceLuvr ·
- Uno 用 AR 架构无损并行采样，速度超 EAGLE-3 全部扩散 LLM — HongyiWang10 ·
- Uno:扩散增强 LLM 无损并行生成,超越投机解码 — dair_ai ·
- 【源头】扩散增强 LLM「Uno」：8B 跑赢 26B DiffusionGemma 与 Mercury 2 — iScienceLuvr · 2026-09-04
- Uno 架构让扩散 LLM 兼得 AR 质量,推理速度超 EAGLE-3 — JFPuget · 2026-09-04
- Uno 混合扩散 LLM 引争议:称超越同级,实测被质疑夸大 — joao_gante · 2026-09-04
- 【源头】Uno 用 AR 架构无损并行采样，速度超 EAGLE-3 全部扩散 LLM — HongyiWang10 · 2026-09-05
- 【源头】Uno:扩散增强 LLM 无损并行生成,超越投机解码 — dair_ai · 2026-09-05
- 扩散适配器+AR验证,Uno 实现无损 3 倍提速且无需草稿模型 — kastnerkyle · 2026-09-06