递归自我改进缺的是记忆:Reddit 长文析 retention 约束
BandAutomatic2009 · reddit · 2026-10-22
一篇 Reddit 深度长文论证:递归自我改进(recursive self-improvement)并非循环,因为大多数系统未保留上一轮的改进。作者拆解出三个必需功能:
- 保留(retention):把改进留存下来——目前最被忽视的一环,也是真正的瓶颈;
- 辨别(discrimination):判断哪些改动真是改进——当前工程主要投入处;
- 提升(promotion):把验证过的改动带入下一轮——目前多靠人改文件。
作者强调 retention 不等于长上下文:上下文是每次重新喂入的输入,不是模型自身能力。而只保留不辨别会让系统「更快地自信犯错」。
文中比较了记忆可栖身的四处:权重内(需训练、难归因)、外部存储(便宜可查但只是输入)、脚手架/harness(当前多数增益来源,但换 harness 即清零)、模型计算内部状态(免训练更新,但需自管生命周期与漂移)。作者认为 retention 同时是安全面:让行为可审计,也带来记忆投毒、错误提升、不可复现漂移等失败模式。
文末披露其团队将据此发布 MemT 1.0——293B 参数、把记忆状态放在模型计算内部的尝试,权重暂不公开。
「编程与Agent」频道最新
- Claude Code 可视化教程仓库爆火,斩获 4.2 万星 — luongnv89 · 2026-10-22
- Claude Code 高手工作流:7 个技巧与 4 个避坑点 — PawelHuryn · 2026-10-22
- Claude Desktop 实用示例:一条提示词让 Claude 每天早上发工作简报 — PawelHuryn · 2026-10-22
- Claude Desktop 2.0 把 Claude Code 装进友好界面，非工程师不再需要 VS Code — PawelHuryn · 2026-10-22
- Claude Desktop 2.0 实测:Code 标签页让非工程师告别 VS Code — PawelHuryn · 2026-10-22
- 让 Agent 做生意为何仍需人工盯：会话过期与重复执行是最大坑 — Consistent-Point-174 · 2026-10-22