Engramlab 新研究:用 RL 教模型用笔记,训练成本出乎意料地低
realJessyLin · x · 2026-11-05
Engramlab 发布博客,研究训练与 harness 记忆如何配合,结论是两者能叠加——最强系统会用各种形式的记忆。
- 用 RL 教模型「使用自己的笔记」,可以在基座模型上增强记忆能力,而且取梯度 training 的成本相当便宜
- 记忆机制在数百万 token 的编辑下依然出人意料地鲁棒
- 作者预测:当下流行的 harness/prompt 工程会逐渐变得不重要,因为模型会自己学会用好手头工具;随着文本记忆与原始上下文边界模糊(如 agent 生成内容爆炸的代码库),「管理文档和 skill.md」本身正在成为一种技能
所属事件:Engram 研究:RL 教模型善用文本记忆,成本更低且效果提升明显(5 条相关)→
「漫话AGI」频道最新
- 如果你的决策理论认为投票无用,那理论本身可能有问题 — JeffLadish · 2026-11-05
- AI 沙盘推演百年后世界:垄断、封锁与丰裕三种未来 — No_Twist_678 · 2026-11-05
- AI2 高管 Bindu Reddy:AI 被妖魔化,该大力正面宣传 — bindureddy · 2026-11-05
- AI 检测器 Pangram 将大量科研基金申请书标记为 100% AI 生成 — analisereal · 2026-11-05
- 从康德到 AI:被名人框架锁死的研究问题为何迟迟无人跳出 — fkasummer · 2026-11-05
- Neilson 转述 Dwarkesh:科学异常何时只需修正、何时需革命 — michael_nielsen · 2026-11-05