扩散模型冷知识:高噪声阶段样本被拉向数据集中心

多位研究者发现扩散模型的一个反直觉几何性质:在采样早期、样本大部分仍是噪声时,模型的最佳预测接近数据的(条件)期望/均值,因此早期样本会被拉向数据集分布的中心——即使那里没有任何真实数据点——随后再回弹到真实数据流形上。这一冷知识揭示了扩散模型去噪过程的几何机制,引发社区关注。

2026-09-08 ~ 2026-09-09 · 2 条相关