扩散增强 LLM「Uno」实现无损 2.2 倍加速,打破逐 token 生成瓶颈

HongyiWang10 · x · 2026-09-18

IFMAI 团队发布 Uno,一种扩散增强的 LLM,旨在解决自回归模型逐 token 顺序生成带来的推理瓶颈。

核心思路:

结果:Uno 可从头训练或在现有开源 AR LLM 上增补构建;K2-Horizon-7B 在质量与吞吐上均超过 SOTA 扩散方法,最高 2.2 倍加速且无损;各 batch size 下吞吐均高于主流投机解码方法。论文已上 arXiv(2609.04010),模型已开放。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →