扩散增强 LLM「Uno」实现无损 2.2 倍加速,打破逐 token 生成瓶颈
HongyiWang10 · x · 2026-09-18
IFMAI 团队发布 Uno,一种扩散增强的 LLM,旨在解决自回归模型逐 token 顺序生成带来的推理瓶颈。
核心思路:
- 将模型参数解耦为两组:标准 NTP 目标训练的 AR 权重,加上轻量级扩散权重,用于并行一次抽取多个 token
- 扩散权重通过一个简单的 Diffusion Distillation 阶段学习,对现有训练管线几乎零额外开销
- 提出 Ψ-Spec 采样器家族,在固定上下文长度下实现无损加速与推理时扩展;无需 draft model(不同于投机解码),也不牺牲 AR 模型质量(不同于扩散 LLM)
结果:Uno 可从头训练或在现有开源 AR LLM 上增补构建;K2-Horizon-7B 在质量与吞吐上均超过 SOTA 扩散方法,最高 2.2 倍加速且无损;各 batch size 下吞吐均高于主流投机解码方法。论文已上 arXiv(2609.04010),模型已开放。
所属事件:IFM AI 发布扩散增强 LLM「Uno」无损提速 2.2 倍(2 条相关)→
「研究」频道最新
- 研究者称其真实同行评审是只问全球顶尖两三人,会议评审是噪音 — taiyasaki · 2026-11-19
- 写给政策制定者的 AI 评测入门:看榜单前先问这五个问题 — sethlazar · 2026-11-19
- WeightBench 基准:让 LLM 直接读写神经网络权重 — Aayush Marasini · 2026-11-19
- 研究:40份开源LLM技术报告仅4份交代多次训练运行 — Bahaeddin Türkoğlu · 2026-11-19
- 实测:GPT-5.6 Luna 重排 100 篇文档几乎不比 20 篇强,成本 5 倍 — eshorten300 · 2026-11-19
- Contra Labs 发布设计基准:神秘模型 Gestalt 力压人类金牌作品登顶 — yuwen_lu_ · 2026-11-19