扩散模型冷知识:高噪声下样本会被拉向数据集中心
YouJiacheng · x · 2026-09-09
- 网友观察到扩散模型的一个有趣性质:当样本大部分还是噪声时(生成早期),模型的最佳猜测接近数据的(条件)期望/均值。
- 这意味着早期样本会被拉向数据集分布的中心——即使那里实际没有数据点——之后才回弹向数据流形。
- YouJiacheng 补充解释:在高噪声条件下,模型只能预测(条件)期望,这正是在去噪目标下的理论最优解。
所属事件:扩散模型冷知识:高噪声阶段样本被拉向数据集中心(2 条相关)→
「研究」频道最新
- 数学家发起众筹式协作:用 Lean 形式化千禧年难题霍奇猜想 — AlexKontorovich · 2026-09-09
- AI 选靶设计的抗衰老药 Rentosertib 首现人体数据 — rand_longevity · 2026-09-09
- 重提 Distill 2017 名文:让人类与模型内部表征交互来增强智能 — enjalot · 2026-09-09
- Keenan 力挺 Navier–Stokes 预测:庞加莱猜想当年同样陷入署名争议 — keenanisalive · 2026-09-09
- 陶哲轩警告:AI 疯抢开放数学难题,开放科学传统或被逆转 — Simon Willison · 2026-09-09
- NVIDIA 开源 IMO 金牌系统 Nemotron:含模型、数据集与 200 道新题 — kuchaev · 2026-09-09