Engram 新研究:用 RL 教模型善用文本记忆
研究公司 Engram 于 11 月 5 日发布新博客,研究持续学习中强化学习(RL)与基于文本的记忆(笔记/技能文件)如何互补。核心结论:RL 训练的作用不是让模型内化新知识,而是教模型学会「如何使用自己的笔记」;训练成本远低于构建笔记本身,且与 harness 记忆可以叠加使用。
已确认
- 核心思路:RL 补充基于文本的记忆,类比学生反复研读离散数学笔记直到真正理解——训练让模型学会利用已有笔记,而非重写知识
- 给模型固定的优质笔记并优化 prompt 后再进行 RL 训练,跨基准准确率提升 7-20 个百分点,超过未训练版本以及拥有相同笔记的前沿模型
- 背景:AI 生成的上下文正爆炸式增长,而今天的 agent 每个会话都要重新通读这些内容;纯文本记忆目前还能凑合,但 12 个月内将变得太慢、太贵
- 训练(取梯度)成本出乎意料地低,远低于构建笔记本身的成本
- 即使经过数百万 token 的记忆编辑,模型表现依然稳健
- 最强系统会综合使用各种形式的记忆,训练与 harness 记忆二者能叠加
为什么重要
- @realJessyLin 指出,这意味着可以在基座模型上通过廉价训练增强记忆能力,为长时程运行的 Agent 提供实用的能力增强路径
- @scottlinderman 转述团队观察:模型长时间运行时记的笔记会变得越来越不可读(inscrutable),而少量训练即可修复;团队看好「模型比人类更懂数据」的前景,并预告后续分享更多进展
- 该工作为持续学习提供新范式:不追求把知识压进参数,而是训练模型善用外部记忆,兼顾成本与稳健性
2026-11-05 ~ 2026-11-05 · 6 条相关
一手来源
- Engram 研究:RL 训练让 Agent 会用笔记,准确率提升 7-20 个百分点 — sarahcat21 ·
- Engramlab 新研究:用 RL 教模型用笔记,训练成本出乎意料地低 — realJessyLin ·
- 【源头】Engramlab 新研究:用 RL 教模型用笔记,训练成本出乎意料地低 — realJessyLin · 2026-11-05
- Engram 团队:少量训练即可修复长时程模型的不可读笔记 — scott_linderman · 2026-11-05
- Engram 博客:RL 教模型用笔记,比建笔记便宜且经百万 token 编辑仍稳健 — scott_linderman · 2026-11-05
- Engram 研究:RL 训练可教会模型善用文本记忆且成本更低 — canaesseth · 2026-11-05
- Engram 提出用 RL 训练模型「会用笔记」,补足 Agent 纯文本记忆的短板 — scott_linderman · 2026-11-05
另有 1 条近重复转述:sarahcat21