伯克利等提出扩散模型信息论缩放律，可预测记忆化与 FID

Luca Ambrogioni 与 Druv Pai、Yi Ma 等合作发布新工作，为扩散模型引入信息论视角的缩放定律。该研究从有限样本出发刻画基于去噪的分布学习，通过量化模型从训练数据中学到的信息量，可严格预测生成与记忆化的分界：即记忆化何时开始，以及 FID 指标的走向，为理解扩散模型的泛化与记忆行为提供了理论工具。

2026-10-29 ~ 2026-10-29 · 3 条相关

• 伯克利等提出信息论缩放律：可预测扩散模型的记忆化与 FID — LucaAmb · 2026-10-29
• 扩散模型信息论 scaling 律:用互信息预测模型何时开始记忆训练数据 — davidad · 2026-10-29

另有 1 条近重复转述:LucaAmb