谷歌 RRSI 方法抑制智能体记题,新基准提升 4.7 分省 30% token
The Decoder · rss · 2026-10-04
自我改进的 AI 智能体常会记住测试任务本身,导致分数提升在新任务上缩水甚至消失。
谷歌研究人员提出新方法 RRSI,对这种记忆化效应加以约束,在未见过的基准上最高提升 4.7 分,同时比未正则化的版本少用约 30% 的 token。
这项工作揭示了自我改进训练中的一个关键隐患:智能体的“进步”可能只是对测试集过拟合,而非真实能力增长。
「编程与Agent」频道最新
- 开发者删光全部 ADR:AI 时代代码库本身就是架构文档 — sloppenheimer · 2026-11-20
- Anthropic 开放 Claude 前置部署工程师学习路径,约 9.5 小时学完 — leslysandra · 2026-11-20
- Google 开源 Sashiko:Gemini 驱动的 Linux 内核代码审查 Agent — rseroter · 2026-11-20
- boxd 新增 8 家集成:Dify、n8n、LangChain 等接入其机器 — JensHonack · 2026-11-20
- OpenAI 发布 GPT-Live 提示词指南:多语言与地区口音调法 — pbbakkum · 2026-11-20
- Rippling 推出 AI 应用生成:员工用自然语言就能搭内部工具 — andreisavu · 2026-11-20