LLM 持续学习要“睡眠做梦”
behrouz_ali · x · 2026-07-14
这篇工作讨论了持续学习（continual learning）里一个关键变化：模型不再只有传统的“训练/测试”划分，而是要在两种状态间周期切换：
- Active/Wake：持续接收并处理新数据。
- Sleep：整理最近学到的内容，巩固记忆，并通过“做梦”式的合成数据推动自我改进。
作者提出了 Knowledge Seeding (KS)：让较小模型把知识蒸馏给较大模型，作为记忆巩固的一种形式。论文还结合了 on-policy / off-policy distillation 与 imitation learning，并在 self-improvement 场景下让模型生成和筛选合成数据。实验结果显示，这个“sleep”阶段对长期持续学习、知识吸收、few-shot 泛化等任务都有帮助，并能缓解灾难性遗忘。
所属事件:大模型持续学习新思路：引入睡眠做梦机制与场景重定义(13 条相关)→
「研究」频道最新
- DeCert 框架无需参考答案评估生成式奖励模型的论证质量 — Guiquan Sun · 2026-10-27
- 新研究：VLM harness 同样是组合泛化器,可拆解复杂图像问题 — a1zhang · 2026-10-27
- 新文呼吁启动 AI 界「人类基因组计划」加速可解释性研究 — ninamiolane · 2026-10-27
- 19 人团队论文揭示 VLA 模型内部几何：概念多为多维弯曲结构 — ninamiolane · 2026-10-27
- Google 研究员：所有 softmax/cross-entropy 实现都藏着两个 bug — jon_barron · 2026-10-27
- 新论文给出 Jacobian Lens 数学理论：它捕捉的是「慢而连贯」的特征 — wgilpin0 · 2026-10-27