Google 提出 sleep 框架：让 LLM 边用边学、持续吸收新知识

iruletheworldmo · x · 2026-11-01

Google Research 的 Ali Behrouz 与 Vahab Mirrokni 提出 sleep 框架，借鉴人脑休息时巩固记忆的机制，为 LLM 引入持续学习生命周期：模型在「清醒期」与用户交互、在「睡眠期」离线整合记忆，把脆弱的短期上下文知识固化为稳定的长期参数，从而突破固定知识截止日期的限制。\n\n该方案针对两大痛点：参数持续更新易引发灾难性遗忘，而仅靠 in-context learning 又留不住上下文窗口之外的知识。实验显示，交替进行交互与离线记忆整合后，模型可持续吸纳新事实、保留长达 10M token 的长上下文知识，并提升复杂推理能力。