Schmidhuber 组 agent 综述:自我改进多改脚手架,权重更新罕见且易塌缩
maier_ak · x · 2026-09-22
该综述建议在固定预算内以带检查点的性能曲线记录 agent 自我改进过程,并警告:自生成数据可能导致模型塌缩(model collapse),基于 judge 的评测指标可能过度拟合有偏的评估器。
综述将 agent 形式化为 (θ,Σ):θ 是基础模型权重,Σ 是由 prompt、记忆、工具与控制逻辑组成的运营脚手架;自我改进即改变 θ 的「慢循环」或改变 Σ 的「快循环」。
所属事件:Schmidhuber 组综述：自我改进 agent 多改脚手架而非权重(5 条相关)→
「漫话AGI」频道最新
- AI 助手悖论:用户不想要更多决策,而是想少做决策 — floguo · 2026-09-22
- AI 与数学家同台：图灵奖得主 Diffie 直言不在乎知识产权 — thoefler · 2026-09-22
- ScienceBuddy-Jev 0.62 秒答对生化难题,置信度 99.97% — Scobleizer · 2026-09-22
- Hassabis：AGI 之问不该由技术圈回答，离全面 AGI 仅数年 — victor_explore · 2026-09-22
- Meta 研究员：AI 进展像摩尔定律，会持续多年但终有尽头 — rbhar90 · 2026-09-22
- 特斯拉 FSD 老将吐槽：LLM 从业者的工作变成了追柱状图 — yunta_tsai · 2026-09-22