Engramlab 新研究:RL 训练可替代文本记忆,小数据即生效且延迟更低
dan_fried · x · 2026-11-06
Engramlab 发布博客,探讨 RL 如何与基于文本的记忆互补——让模型学会如何使用自己的笔记。核心发现:
- 用少量数据做权重更新,效果可与基于上下文的记忆更新相当
- 权重自适应 agent 在推理时延迟更低
- 训练成本可以比构建笔记更便宜,且在数百万 token 的编辑下仍保持稳健
转发者指出这与他们 TAHI 研究的结论一致:weight updates 与 context-based updates 在小数据下同样有效,但权重方案推理延迟更优。配图显示在写作与数据可视化任务中,context 自适应 agent 的 message token 量比 baseline 长 143%-176%,而 weight 自适应更精简。
所属事件:Engram 新研究:RL 教模型善用笔记,训练廉价且抗海量编辑(11 条相关)→
「编程与Agent」频道最新
- 谷歌开源 Agile Deliberation:用边界案例把模糊分类标准磨清晰 — aigclink · 2026-11-06
- AI 找出潜伏 10 年的漏洞:任意超 256 字符文本可当 root 密码 — andersonbcdefg · 2026-11-06
- vLLM 开源 System Duo 语义路由:快慢双系统按需分流推理任务 — vllm_project · 2026-11-06
- 开发者观点:把推理算力砸向问题直到它消失是当代核心技能 — rmcwhorter99 · 2026-11-06
- Claude Code 被曝在 User-Agent 头泄露用户邮箱,用户称日均收到数十封诈骗邮件 — niloofar_mire · 2026-11-06
- Nous Research 发布 Hermes Agent v0.23.0:桌面端搬进浏览器标签页 — NousResearch · 2026-11-06