Uno 用离散扩散让 LLM 推理提速至 3 倍,作者将开线上讲座
burny_tech · x · 2026-11-12
IFM 研究员 Subham Sahoo 将于 11 月 13 日在 alphaXiv 线上讲座中介绍 Uno：一种用离散扩散加速 LLM 推理的新方法。
要点：
- Uno 结合自回归与扩散建模，用轻量扩散 adapter 并行生成多个 token，再由原模型验证，无需单独 draft 模型即可保持输出分布不变，实现最高 3 倍无损加速，号称优于顶级投机解码方案
- 讲座将公布新结果：击败 DFlash2 的新版 Uno、扩展到 400B 规模、加速 RL 后训练
「Infra」频道最新
- Bittensor 推出 Gratis：Mac 本地运行的免联网 AI 助手 — markjeffrey · 2026-11-12
- HipKittens 一周年:团队持续攻坚 AMD GPU 软件生态破 CUDA 护城河 — simran_s_arora · 2026-11-12
- 「Igor 请求 MacKenzie Scott 捐 800 万买 GPU」成 AI 圈热梗 — AIFlow_ML · 2026-11-12
- 768 台微型机器人同跑医院病房仿真,14 秒后仅 2 台倒下 — MaziyarPanahi · 2026-11-12
- celld 演示：只用对象存储桶自托管 Workers、Durable Objects 和队列 — irvinebroque · 2026-11-12
- Azar 自省：芯片扩散战略过于透明，中国模型正转向华为 — beffjezos · 2026-11-12