NeurIPS 最佳论文:扩散模型训练约 300 步/图后才开始记忆训练集
Mastbubbles · reddit · 2026-11-14
Reddit 帖作者用图文解读 NeurIPS 2025 最佳论文(arXiv 2505.17638),回应「扩散模型只是复制训练数据」的争论。
- 在 1024 张人脸照片上训练小型扩散模型:10 万步时生成的 1 万个样本没有一个是训练照片的复制
- 但继续训练到 162 万步,每 100 个样本中 34 个变成训练照片——记忆化确实存在,只是需要过度训练才触发
- 生成质量出现所需步数与数据集大小无关,而开始复制的时间随数据集线性增长:约每张图 300 步。正常时长训练的大数据集模型远未到记忆化门槛
- 作者用论文自身的脸画了一个「艺术生被锁在 1024 张照片的房间里」的可视化叙事(免费阅读)
注意局限:实验仅是 32x32 灰度小脸和小模型,没人对 SD 级模型跑过此测试,且大模型已被证明能复现部分训练图。帖末向 LoRA 训练者提问:多少步/图后你开始看到训练图回流?
「多模态」频道最新
- 开源 Blender 插件打通 NVIDIA Kimodo/ARDY,本地生成角色动作 — bdsqlsz · 2026-11-14
- 科幻片《KILL/SAVE》团队发布 2045 年 AI 假广告短片 — killsavecom · 2026-11-14
- 《Stella & Shango》第二集:维京题材 AI 视频短片续更 — stellaXaiXvip · 2026-11-14
- Fable 5.2 游戏妙招:同一 3D 角色换色生成全部观众 NPC — chongdashu · 2026-11-14
- Midjourney 让提示词更听话:低 stylize 加 raw 参数 — michaelrabone · 2026-11-14
- 用户道歉:MiniMax H3 图像编辑能力或强于所有现役模型 — VasaFromParadise · 2026-11-14