扩散增强 LLM「Uno」：8B 跑赢 26B DiffusionGemma 与 Mercury 2
iScienceLuvr · x · 2026-09-04
一篇来自伊利诺伊、康奈尔、Cerebras 等机构（含 Eric Xing、Zhengzhong Liu 等）的新论文提出 diffusion-augmented LLM：
- 核心设计：模型有两组权重——标准 NTP 训练的 AR 权重负责质量，轻量扩散权重负责并行生成多个 token；
- Ψ-Spec 采样器：从 AR 分布并行采样 token，实现无损加速；
- 性能：8B 的 Uno 在所有评估 batch size 下吞吐都超过 DFlash、Eagle3 等 speculative decoding 方法，且无需额外 draft 模型，相对基线 AR 模型最高 3 倍加速；
- 评测：8B Uno 在 agentic 工具调用、编码、长上下文推理上全面胜过 26B 的开源 d-LLM DiffusionGemma 和商用 Mercury 2。
论文、代码与 HuggingFace 权重均已公开。
所属事件:Uno 扩散增强 LLM：无损并行生成，速度超 EAGLE-3(6 条相关)→
「Infra」频道最新
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21
- 黄仁勋指引明年营收增70%仍供不应求,一人唱衰韩云IPO难改算力荒 — firstadopter · 2026-10-21
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21
- 斯坦福 CS336 第 6 讲:kernel 提速先少跑几趟显存 — stanfordnlp · 2026-10-21
- General Compute 携手 Positron：GPU 管提示，专用内存硬件管出 token — aftahi_ai · 2026-10-21
- 2026 年 AI 相关债券发行已达 4190 亿美元,比去年全年高出 90% — SumitGup · 2026-10-21