Uno 架构让扩散 LLM 兼得 AR 质量,推理速度超 EAGLE-3
JFPuget · x · 2026-09-04
ssahoo 介绍新方法 Uno，针对扩散 LLM 相对自回归(AR)模型的两短板：质量更低、大批量推理时更慢。
- 保留 LLM 的 AR 架构，每层同时持有 AR 权重与 Diffusion 两组权重
- Diffusion 权重可从 AR 分布无损地并行采样
- 速度超过所有投机解码方法（DFlash、EAGLE-3）
- 成绩超越全部现有扩散 LLM：Mercury 2、Diffusion Gemma、Llada
论文、模型与代码均已开源放出。
所属事件:Uno 扩散增强 LLM：无损并行生成，速度超 EAGLE-3(6 条相关)→
「模型」频道最新
- Mistral 发布 Voxtral 3 语音系列，转写模型冲上榜单第三 — ArtificialAnlys · 2026-10-21
- Perplexity 发布 Decider V1.2：登顶 Vals AI 决策模型榜 ClaimBench — bo_wangbo · 2026-10-21
- Omnii-1 基因组模型发布：AI 设计的噬菌体首次用于人体治疗 — JosephJacks_ · 2026-10-21
- Nous Portal 订阅曝光：未用完额度可滚存，最高档每月 220 美元 — alexcovo_eth · 2026-10-21
- 1.3B 开源文档解析模型 OXR 登顶三大榜：100 页解析仅 101 秒 — s_mohinii · 2026-10-21
- 从记忆存储理解 LLM：事实习得三阶段与幻觉同步涌现 — scott_linderman · 2026-10-21