循环复用 Transformer 块:260M 小模型以 4.9 倍低算力胜过 6.5 倍大模型
arankomatsuzaki · x · 2026-10-01
Arankomatsuzaki 转发了新论文 Looped Diffusion Transformer(Looped-DiT),提出文本生图模型的另类扩展路径:
- 核心思路:在每个去噪步骤内反复运行共享的 Transformer 块,以参数量不变的方式增加计算深度,实现内部表征的迭代精炼
- 关键问题与解法:朴素循环因中间步骤监督不足、注意力更新失稳而失效;Looped-DiT 通过跨循环深监督与自调制注意力解决
- 结果:260M 参数的循环模型在多个 T2I 基准上超越 6.5 倍大的模型,推理算力降低 4.9 倍
- 额外发现:固定推理预算下,加深循环比增加去噪步数收益更大,且深层循环能逐步修正早期错误
作者包括智谱、Sensetime 等机构的研究者与清华大学高煌团队。
所属事件:Looped-DiT 循环复用 Transformer 块以小胜大(2 条相关)→
「多模态」频道最新
- Qwen 图像 2.1 与 Minimax H3 实测:老照片修复与写实化转换 — Ant_6431 · 2026-11-16
- Minimax H3 视频生成演示:Cubee 店面镜头第二版 — JahJedi · 2026-11-16
- 不会画画的开发者用 Fable 5.2 四小时做出 14 章手绘风故事书游戏 — jradoff · 2026-11-16
- Minimax H3 Image 训练人物 LoRA 相似度差,同数据集在 Qwen 2.1 上表现优异 — Ad_Organic · 2026-11-16
- Seedance 生成地铁车厢动画片段,光影细节惊到 Reddit 网友 — Ok-Solution-7889 · 2026-11-16
- 推主用 AI 重制 1977 版《黑衣人》风格画面 — techhalla · 2026-11-16