斯坦福 Memorilla:16 个记忆 token 胜过全上下文,省 108 倍 token
omarsar0 · x · 2026-10-19
斯坦福、多伦多大学、MIT 等机构发布论文 Memorilla: Latent Semantic Memory for LLMs,提出一种面向冻结 LLM 的记忆系统:把整个文档集合一次性编码为可复用的 embedding,再由学习到的模块按查询将相关信息写入 LLM 输入嵌入空间的 16 个「记忆 token」。
- 在 8 个基准中的 5 个上击败 Mem0、MemoRAG 等基线;FactKG 上达 84.33%,超过全上下文推理的 80.43%,而源文档 token 用量少 108 倍
- 作为 agent 记忆同样有效:TextWorld 中用 agent 自身历史作为集合,成功率从 18.6% 提升到 24.2%,且 agent 更少重复探索已去过的房间
- 展示了冻结 LLM 跨长上下文交互持续积累和使用知识的路径,向持续学习系统迈进
「编程与Agent」频道最新
- 用 Claude 调 Hedra MCP 把 MV 自动改成 9:16 竖版 — AIandDesign · 2026-10-19
- Claude 写了 90% 代码,回滚率反降 40%:Claude Code 团队披露审查法 — PrajwalTomar_ · 2026-10-19
- ESP32 接 Claude Code 实操教程:固件、服务端与 MCP 全流程 — alexcovo_eth · 2026-10-19
- 4 个 Gemini 4 Argon 智能体协作 27 小时击败 Minecraft 末影龙 — robertarail · 2026-10-19
- 检测激活读取的探针须防数值漂移:同 prompt 下数值不得变 — brandon_xyzw · 2026-10-19
- OpenCode 2.0 发布:开源编码 Agent 迎来大版本更新 — RelevantEmergency707 · 2026-10-19