扩散模型组合生成失败根源在采样器而非模型,MCMC 式新采样器可解
MarkNeumannnn · x · 2026-09-17
Mark Neumann 在讨论中补充两条关于"保守扩散模型"(conservative diffusion)的参考资料:
- 一篇 2023 年的 arXiv 论文《Reduce, Reuse, Recycle: Compositional Generation with Energy-Based Diffusion Models and MCMC》(作者含 Yilun Du、Sander Dieleman、Jascha Sohl-Dickstein、Will Grathwohl 等):基于 score-based 解释研究扩散模型的组合生成与引导,指出当前组合失败的原因在采样器而非模型,提出受 MCMC 启发的新采样器及能量化参数化(含 Metropolis 校正),在分类器引导的 ImageNet 等任务上显著改善组合生成。
- 另一篇(据称未发表)讨论了为什么实践中(至少在图像领域)人们不这么做。
对理解扩散模型组合性与采样器设计有参考价值。
「研究」频道最新
- BuildingBench 发布:让编码智能体直接写代码生成 3D 建筑 — Lianhuiq · 2026-09-17
- 斯坦福 25 岁博士生凭 LLM 谄媚研究入选 MIT TR35 — jurafsky · 2026-09-17
- Andrew Zhao 谈 MOPD:组织分工优势大于性能优势 — _AndrewZhao · 2026-09-17
- BuildingBench 让编码智能体从图片造 3D 建筑,新隐身模型宣称省 10 倍 token — Lianhuiq · 2026-09-17
- 爱丁堡等团队提出 RoMem:用相位旋转处理过期知识,时序推理提升 2-3 倍 — Roger_M_Taylor · 2026-09-17
- 新论文 Instrumental Choices:LLM 智能体违规走捷径行为的可测量基准 — drbiomass · 2026-09-17