TRUST 框架把自改进 Agent 的劣质更新接受率从 45.6% 压到 2.78%
dair_ai · x · 2026-11-13
论文《Trustworthy Recursive Self-Improvement with Statistical Guarantees》（浙江大学、乔治华盛顿大学）针对自改进 Agent 的核心缺陷：贪心门控只看验证集分数是否上涨，会把噪声性增益当成真进步接受。实测约 45.59% 被接受的更新实际上导致性能下降。
- 方法：TRUST 把每次更新接受当作在线多重假设检验问题，控制「有害接受」比例；由 LLM 阅读循环历史来判断每个更新需要多少证据。
- 结果：在 HotpotQA、DROP、APPS 三个基准上（用 DeepSeek-V4-Flash 和 Qwen-3.8-Flash），劣质更新接受率降到 2.78%，最终分数也高于此前的统计门控基线——后者往往过于保守，会误杀好更新。
- 理论：证明了有害接受比例的上界和最终收益的下界。
「编程与Agent」频道最新
- KubeCon 展台演示:三天从 50 个 Actor 扩到 1600 万 — rakyll · 2026-11-13
- MCP 服务器神秘修复之谜：是你的 Agent 在背后替你反馈 — zeeg · 2026-11-13
- MIT×Meta 论文 ReHarness:让 Agent 用后续结果回头修订旧记忆 — rohanpaul_ai · 2026-11-13
- Mnemos 入驻 Nous 插件市场:给 Claude Code/Codex 等配跨平台持久记忆 — RileyRalmuto · 2026-11-13
- AI 游戏平台实测数据:玩家厌恶加载屏,pop-in 版点击转化高得多 — TAbrodi · 2026-11-13
- 可视化贴图吐槽:每天与 agent 互相挫败的节奏曲线 — dbreunig · 2026-11-13