Memory-Centric Continual Learning for AI Agents
Dongfang Li, Zhuoen Chen, Bonian Jia, Zixuan Liu, Zhengxuan Lu, Can Deng, Yukun Shi, Yuhang Meng, Xin Zhang, Jiahe Huang, Fuhao Li, Junmai Wang, Shunyao Wen, Jingjun Sun, Jiaxu Tian, Jiangling Zhang, Zihan Wang, Liangyou Li, Yitong Yao, Shuangyong Song, Beilun Wang, Pengxu Wei, Hanlin Xu, Chang Liu, Yongxiang Li, Baotian Hu, Xiangyang Ji, Min Zhang
cs.CL, cs.AI
2026-10-21
MCCL把记忆从检索缓存改成双环：内环更新存储，外环按反馈改策略，用有状态对重置的差区分学会和多塞上下文，缩放曲线是示意图。
agent 会规划、会调用工具，部署久了仍重复同样的错。权重是冻住的，上下文有会话上限。日志被贴回 prompt，轨迹一长，信号被稀释，延迟上升。持续微调能改行为，也会灾难性遗忘，错了难回滚。
MemGPT、Mem0 一类外部记忆，评测常停在旧事实能否召回。召回不等于下次行动更好。库变大后，冗余和冲突抬高检索噪声，任务一变就负迁移。MCCL（以记忆为中心的持续学习）主张少对底座做梯度更新，让记忆负责写入、解冲突、改进行动。
三轴拆开三件常被揉在一起的事：基底是存在哪，资产是取出来当什么用，策略是谁决定写和忘。有外部库，不等于可以迁移。
基底四类。上下文是当前 token，序列一长就失稳，摘要有损且不可逆。激活记忆是隐状态或 KV cache，绑死在原模型上，单条难删；卸到磁盘仍算激活，只有原模型读得了。外部记忆是日志、向量或图谱，容量独立于模型，单条可改；排名一掉就是功能性遗忘，记录还在，行为上等于没了。参数记忆是部署后仍更新的权重或 adapter，错误反馈可能被焊进权重。
资产按取用分，不按存放位置分。情景留事件本身。语义是抽掉情境的事实，容易把偶然相关写成断言。程序是工作流或代码，直接约束动作。同一段文字，当事实用是语义，当指令用是程序。巩固把重复规律收成技能，离证据越远，错一次波及越广。
策略可以叠用。预设是 Top-k 这类写死的规则，什么算重要，上线后不随结局改。审慎让 LLM 逐案决定存不存，得分记不回那次决定。学习用奖励改写和删除，控制器多半离线训完即冻住。在线演化才在部署中改策略，长程上分不清信用该记给哪一步。
内环把经验写入状态，外环用任务反馈改策略。规则可以不变，那就只有内容在变。要算学会，之后还得被用上并改变行为。写太松会把幻觉写进库并反复取用，这是记忆污染；出处没在写入时留下，巩固补不回。反复用 LLM 改写，效用先升后降。新信息不自动覆盖旧证据，派生出的技能要跟着改。有删除动作，不等于会选择性遗忘。
反馈三层。Reflexion、Voyager 只把复盘或验证过的技能写入库存。AgeMem、UMA 训完控制器就冻住。MemRL 用这条记忆历史上有没有帮到成功来打检索分。部署中持续改管理规则，基本没合上。
没有新实验，没有 MCCL 对 MemGPT 或长上下文的准确率。Figure 1 是合成示意图，不是实测缩放指数。
保持：延迟和干扰后仍强于清空该经验的对照。适应：变更后行为跟上，未改探针不受伤。迁移分开近重复、同族新题、跨任务结构，并报告负迁移。原始轨迹会伤到无记忆时本来就不会的题；流程清楚时技能库更稳，开放任务上可被上下文累积打平。
| 指标层 | 能说明 | 说明不了 |
| 内容保真 | 是否无损存下 | 以后会否被用 |
| 检索可达 | 能否找到 | 会否用错 |
| 单次分数 | 当前是否上涨 | 干扰后还在不在 |
四道门是保存、取出、用进推理、净效果。「记得」只到取出。容量变大时，保存可升、取出可降。底座固定，外部库边插边删会压低旧任务；经验反复抽取再注入，单轮收益可转成崩溃。幅度没给。
ΔPt 是有状态得分减去重置得分。无记忆、全历史、静态 RAG、等计算量，用来排除多塞文本和多想几步。状态若捆在一起，正差值说不清是谁的贡献。即时增益不大于 0，就不报保留比例。具体差值，论文没报。
| 基准 | 能支持的说法 |
| LoCoMo、LongMemEval、PerLTQA、MemoryBank | 静态史上的回忆 |
| MemBench | 规模变化下的访问效率 |
| MemoryAgentBench | 事实变化下的冲突处理 |
| CL-Bench、LifelongAgentBench、AgentCL | 有反馈时相对重置的差 |
ε 随经验、容量、读预算、写入预算变化。经验先降误差，再被容量或计算卡住。参数与非参数记忆相同，差别是新写入如何干扰旧内容。改骨干时最优容量占比低，专用模块高。跨论文分数不能横比。
能用的是协议，不是新模块。Figure 5 写明，格子是设计选择，不是性能。
只报召回，仍停在访问层。补上预算对齐的 ΔPt，干扰后再测，才分得清学会和多塞上下文。库单独加大，会先碰到噪声。在线改管理策略这一层没有合上。RSI（改进以后怎么管经验）因此停在定义，离可部署的自我改进还差着信用分配。
写入值不值得，晚几步才知道，结局对不上是哪次决定。巩固若剪掉时间和范围，压缩文本会被当成证据。混合基底里谁路由、冲突时谁作数、从哪回滚，没有方案。
双环没有实现，没有消融，ΔPt 没有数字，曲线是示意图。MemGPT 同时落在预设和审慎，一条记录可兼三类资产。轴能拆开系统，预测不了哪组在哪个基准上更好。静态基准测的是回忆，序列环境更接近学习，预算不对齐，分数不能横比。