Looped DiT:260M 模型靠循环复用模块,胜过 6.5 倍大模型且省 4.9 倍算力
Fit-Ant2238 · reddit · 2026-10-13
arXiv 论文(2609.40305)提出 Looped Diffusion Transformer:不把文生图 DiT 做大,而是在每个去噪步骤内让同一组 transformer block 循环运行多次,循环深度可在采样时调整。要点:
- 朴素循环并不可靠,论文用每层循环加 deep supervision 加自调制注意力解决。
- 核心结论:260M 的循环模型在多个基准上胜过 6.5 倍大的模型,推理算力少 4.9 倍;固定推理预算下,加深循环比增加去噪步数更有效。
- 发帖人在 M5 Pro 上用 MIT 协议的 B/16 权重(Hugging Face,sensenova)实测:PyTorch MPS fp32、100 步 Euler、CFG 6.0,同一 seed 在深度 1–4 下对比。模型训练于深度 4,但其他深度无需重训练即可用。
- 实测观察:大部分质量提升发生在深度 3 之前,深度 3 与 4 结果非常接近;单张图深度 1 约 23–24 秒,深度 4 约 43–47 秒,可按需用算力换精度,类似循环/递归深度语言模型的迭代数控制。
「多模态」频道最新
- 用 Gemini 生成獾画家 Marcel 完整角色设定图 — azed_ai · 2026-10-23
- NeurIPS Spotlight:KoalaGS 按图像复杂度分配高斯容量,低算力也不掉画质 — zhenjun_zhao · 2026-10-23
- Lovart 插件上线 Codex,写代码时直接生成品牌视觉与广告素材 — OpenAIDevs · 2026-10-23
- 同提示词 AI 视频成本差 2.4 倍:$0.75 与 $1.78 实测对比 — miilesus · 2026-10-23
- 开源 Phosphene 让 Hailuo H3 在 Mac 上生成提速 2.3 倍 — cocktailpeanut · 2026-10-23
- Canva 发布首个设计专用图像模型 Craft,登设计生成榜第二 — EXM7777 · 2026-10-23