Uno:扩散增强 LLM 无损并行生成,超越投机解码
dair_ai · x · 2026-09-05
dairai 介绍了一类新模型「扩散增强 LLM」——Uno。其核心思路是:在标准自回归模型分布上,用扩散过程从同一分布并行抽取多个 token,从而实现并行生成,既不需要投机解码的独立 draft 模型,也不牺牲被替换模型的质量。
技术要点:
- 参数分两份:自回归权重照常做 next token prediction 训练;另加一组轻量扩散权重,通过一个简短的蒸馏阶段接入,对现有训练流程开销可忽略。
- 因为采样直接来自 AR 分布本身,加速是无损的;现有开源 AR 模型可以直接升级而无需重训。
- 作者称 Uno 的表现超越了主流投机解码方法。
所属事件:Uno 扩散增强 LLM：无损并行生成，速度超 EAGLE-3(6 条相关)→
「模型」频道最新
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21
- Gemini 3.1 Pro 玩「两真一假」：bot 太沉迷账本，秒被识破谎言 — mimi10v3 · 2026-10-21
- 1.3B 开源模型 OXR 登顶三大文档解析榜，百页 101 秒 — aftahi_ai · 2026-10-21
- MiniMax M3.1 Flash 上架 TokenRouter：DeepSWE 73.7%，输出 $0.6/M — MiniMax_AI · 2026-10-21
- OpenVLHarness：给任意 LLM 套视觉推理外壳，22 项数据集平均涨 9.9 分 — hsu_byron · 2026-10-21
- 同一道题问四家大模型：Claude、GPT、Grok、Gemini 全给出「时间如河」 — davidfromkansas · 2026-10-21