向量库≠记忆系统:一图讲清 LLM 记忆的读写路径与评测要点
techNmak · x · 2026-10-16
techNmak 发长文澄清一个常见误解:向量数据库只是 LLM 记忆系统的一种可选组件,而非记忆系统本身。持久记忆涉及存储、检索、状态管理、上下文选择与评估的完整链路。
作者把系统拆成两条路径:
- 写路径:Extract → Validate → Reconcile → Persist。记忆记录需要身份、作用域、来源、时间戳与版本信息,更新时既不能丢历史也不能让冲突事实并存为同等有效。
- 读路径:Authorize → Lookup/Search → Select/Rank → Assemble Context → Generate。检索可用 SQL、关键词、向量相似度、混合搜索或图遍历,按数据与访问模式选型;相似度分数本身不代表正确性、新鲜度或授权。
文中区分了常被混为一谈的几种"记忆":模型权重(训练后推理不变)、活跃上下文(受窗口限制)、应用管理的持久记忆、KV cache(复用注意力计算而非持久存储),并说明 RAG 与微调都不会自动处理记忆更新、冲突消解与保留策略。
配图信息图进一步覆盖:语义/情景/程序性记忆角色、记忆保存的生命周期(以"项目改用 JavaScript"为例给出带 scope/时间戳/supersede 的记录结构)、上下文预算的选择-压缩-保留策略、失败逐段归因(没存、存了没检索到、检索到没进上下文、模型没用对),以及评测应覆盖事实回忆、更新、时序、跨会话一致性、访问隔离与证据不足时的拒答。
「编程与Agent」频道最新
- OpenAI 图表：编码 Agent 工作日已达人类研究员 3.14 倍 — haider1 · 2026-10-16
- 开发者做 MCP 工具让 AI Agent 拨打真人电话，每月免费10通求反馈 — Many_Benefit_3393 · 2026-10-16
- mergelock 开源：Git 合并干净也拦得住，专抓多 Agent 并行的语义冲突 — ksadayamuthu · 2026-10-16
- OpenUI 1.0 开源发布:让每个 Agent 的回复变成可交互界面 — heyshrutimishra · 2026-10-16
- 10 个开源项目看清你的 AI Agent 到底干了什么，Langfuse 3.6 万星领跑 — victor_explore · 2026-10-16
- LARK-Lab 提出 Mosaic：跨会话的 Agentic 强化学习新范式 — LARK-Lab · 2026-10-16