Schmidhuber 组综述:自我改进 agent 多改脚手架而非权重
Schmidhuber 参与的新综述《Self-Improvements in Modern Agentic Systems: A Survey》由吉林大学、KAUST、阿尔伯塔大学与 IDSIA 合作完成,Schmidhuber 末位署名,2026 年 7 月发布于 arXiv,共 97 页、约 670 篇文献。Andreas Maier 在 Substack 发表全文导读。综述的核心发现是:现有自我改进 agent 大多只动「快循环」的脚手架,真正的权重更新罕见且伴随模型塌缩风险,距离「终极发明」式愿景仍有相当距离。
已确认
- 综述将 agent 形式化为 (θ,Σ):θ 为基础模型权重,Σ 为 prompt、记忆、工具与控制逻辑构成的运营脚手架;自我改进被定义为自我引发的更新,分为权重慢循环与脚手架快循环。
- 综述指出,现有大多数自我改进 agent 只在快循环上做文章——调整 prompt、记忆与工具等脚手架,模型权重保持冻结;真正更新权重的情况很少见。
- 综述建议在固定预算内以带检查点的性能曲线记录 agent 自我改进过程。
- 综述警告两类风险:自生成数据可能导致模型塌缩(model collapse),基于 judge 的评测指标可能过度拟合有偏的评估器。
- 未来方向包括测试时适应(test-time adaptation)等。
为什么重要
- 该综述为纷乱的 agent 自我改进研究提供了统一的形式化框架与系统地图,便于后续研究定位与比较。
- Andreas Maier 的导读指出,尽管形式优美,现实中的自我改进比「终极发明」愿景小得多;权重层面的自我改进及其塌缩风险,是判断 agent 能否持续进步的关键瓶颈。
2026-09-22 ~ 2026-09-22 · 5 条相关
一手来源
- Schmidhuber 组自我改进 agent 综述全文导读:97 页 670 篇文献的系统地图 — maier_ak ·
- 新综述把 agent 形式化为 (θ,Σ):权重慢循环与脚手架快循环 — maier_ak ·
- Schmidhuber 组 agent 综述:自我改进多改脚手架,权重更新罕见且易塌缩 — maier_ak ·
- 自我改进 agent 综述导读:形式优美,现实却比「终极发明」愿景小得多 — maier_ak · 2026-09-22
- 【源头】新综述把 agent 形式化为 (θ,Σ):权重慢循环与脚手架快循环 — maier_ak · 2026-09-22
- 【源头】Schmidhuber 组 agent 综述:自我改进多改脚手架,权重更新罕见且易塌缩 — maier_ak · 2026-09-22
- 综述盘点自我改进 agent:多数只调 prompt/记忆/工具,权重更新罕见 — maier_ak · 2026-09-22
- 【源头】Schmidhuber 组自我改进 agent 综述全文导读:97 页 670 篇文献的系统地图 — maier_ak · 2026-09-22