IIT 马德拉斯文章把 LLM 记忆机制分成五类并讨论信念修正
LimeOptimal539 · reddit · 2026-10-20
Hugging Face 社区文章（作者 R. Vimalkanth 与 T. Chudiwal，IIT Madras）提出一个 LLM 记忆的分类框架，核心问题是：长上下文和检索为什么不足以完成「信念修订」——当新信息与旧状态冲突时系统怎么办。
五类方法：
- Store more：显式保留历史（KV cache、RAG），新旧信息共存，读取时再裁决哪个适用；代价是历史越多推理负担越重。
- Compress：把历史折叠进固定大小状态（线性注意力、RetNet、Mamba），省空间但记忆互相干扰，上下文变长后召回受限。
- Correct：用门控或预测误差更新控制状态改动（gated linear attention、mLSTM、DeltaNet），比单纯压缩高效但同样难扩展到长上下文。
- Learn at inference：推理时用新证据更新可变参数（TTT、Titans）。
- Distribute plasticity：把变化分散到高维稀疏状态的多个交互部分（Dragon Hatchling / BDH）。
作者用编码 agent 的例子说明：函数签名变了，保留新旧两个定义等于「记住了」但读取时仍要裁决哪个生效，效率低。作者同时质疑这五类是否处于同一比较层级——有些是模型级机制，有些是系统级设计，并询问实际做过 agent 记忆系统的开发者倾向立即更新记忆还是保留历史交给检索时裁决。
「编程与Agent」频道最新
- 研究智能体 Épi 刷新 120 项纪录,n-queens 常数区间缩小 84 倍 — dair_ai · 2026-10-21
- Compaction hooks 实战:保留末尾消息原文+摘要压缩,实现 agent 记忆连续性 — MoonL88537 · 2026-10-21
- 「空白输入框的隐性成本」：当操作负担经由语言重新回到用户身上 — _AustinCalvert_ · 2026-10-21
- DeepMind 论文：自进化 Agent 学新任务最快，忘掉旧知识也最多 — rohanpaul_ai · 2026-10-21
- arXiv 原文:《自进化 Agent 是持续学习者吗?》——可塑性代价是稳定性 — rohanpaul_ai · 2026-10-21
- PM OS、Team OS、Company OS:三层 AI 工作系统怎么搭、先搭哪个 — aakashgupta · 2026-10-21