RL 搜索 agent 竟把谎言的转写当独立信源,8 条回声推翻 58-73% 正确答案

_reachsumit · x · 2026-11-18

论文《EchoSpec》揭示 RL 训练的搜索 agent 一个系统性弱点:真实语料中一个错误论断会被复制、改写成许多页面,而原始信源只出现一次——agent 却把回声当作独立信源采信,且丧失弃答能力。关键发现:

作者提出 EchoSpec:先以验证热启动教 agent 跨回声恢复桥接实体,再用 group RL 优化带证据门控 λ-reward 的两阶段训练,在 Qwen2.5-3B/7B、Llama-3.1-8B 上于九个评测套件验证有效。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →