Krotov 团队 Nature 子刊论文:扩散模型生成行为源自联想记忆
DimaKrotov · x · 2026-11-05
计算神经科学家 Dima Krotov 团队在 Nature Communications 发表新论文,揭示扩散模型的生成行为如何从联想记忆(Associative Memory)中涌现,并识别出生成样本的三个阶段:
- 记忆化(Memorization):逐字复现训练样本
- 伪态(Spurious states):在存储的记忆之间发现新模式,同时保持样本周围有明确的吸引盆——数据规模增长时伪态开始出现在泛化起点附近
- 泛化(Generalization):生成真正新颖的样本,其周围能量景观平坦
论文的反转结论是:传统上被视为联想记忆缺陷的「伪态」,可能恰恰是生成能力的最早信号——即模型开始「创造」的第一步。
「研究」频道最新
- 斯坦福基准:前沿模型当队友仅 14% 冲突达成最优解 — rohanpaul_ai · 2026-11-05
- 统计学大牛合著 RL 理论新书:非渐近视角系统讲强化学习 — burny_tech · 2026-11-05
- 复现 MIT 权重空间编程:GPT-6.1 超 PPO 基线 21 倍,开源模型全部落败 — burny_tech · 2026-11-05
- 中国 AI 科学家 203 小时自主完成 11382 步实验 — yogthos · 2026-11-05
- 分析 Nature 全部评审报告:8% 纯 AI 生成,第三轮升至 16% — TuhinChakr · 2026-11-05
- 清华等发布 HandsOn 基准:多任务灵巧操作最佳策略仅 29.1% 成功率 — jiqizhixin · 2026-11-05