自改进 Agent 为何难落地：一套可回滚的记忆自省架构
inbask · reddit · 2026-08-31
作者认为自改进 agent 的瓶颈不是能力而是安全审查：agent 无人监督地改写自身记忆，答不出「改了什么、依据什么、谁授权、能否撤销」四个问题。
他的设计核心是「agent 只提议、永不执行」：
- 13 个确定性分析器读取 agent 自己的执行历史并输出类型化建议对象，每条以内容哈希引用证据，不允许自由文本。
- 审查与写入是分离的 scope，禁止创建建议的 actor 自批准，每个决定必须附书面理由。
- 已应用的变更会在 1/7/30 天重测，任一检查点回归即自动提议回滚。
三个意外发现：
- 提议步骤零模型调用——确定性分析器而非 LLM 读文本，真正的收益是可复现性（随机提议无法做 A/B）；
- 回滚必须是前置条件而非后补功能——apply 时必须同时记录逆操作，否则拒绝变更，直接消灭了「v2 再加 revert」这类设计；
- 知识与执行历史必须同库存储，否则按哈希引用证据的审计链就失效。底层是 SQLite（服务器版为 Postgres），一套一致性测试钉死两个后端语义相同。M4 Max 上 p50 召回约 30µs，2016 年的树莓派 3 上约 361µs，500–8000 grains 规模内持平。
限制：只改进记忆不改权重，无显式 host 授权不应用任何变更，无守护进程。项目为 Rust，MIT/Apache 双协议开源。
「编程与Agent」频道最新
- 开源工具 ebook2audiobook 免费把电子书变有声书，已获 2 万 star — thisguyknowsai · 2026-10-16
- OpenAI DevDay 班加罗尔站开幕，现场推出 Codex 大使计划 — HowDevelop · 2026-10-16
- 用数学模式与 Gemini 智能体在 Antigravity CLI 里作曲的玩法实验 — fofrAI · 2026-10-16
- 去掉框架手写 Agent 循环：LangGraph 到底帮你做了什么 — m3m3o · 2026-10-16
- 博主称免费版用户已严重低估 10 个月来 AI Agent 的进步 — realmeetjames · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16