AWS+HSBC 论文：验证器与自进化 Agent 共同进化，仅需 10 个标注样本
rohanpaul_ai · x · 2026-10-12
AWS 与 HSBC 的论文《Who Verifies the Verifier?》提出 Double Ratchet 方法，让自进化 agent 的验证器与技能一同进化，无需人工编写评分规则。
- 核心思路：把验证器作为进化对象，由聚类失败样本合成大量小型、以规则为主的缺陷检测器；版本选取只看与 10 个锚定标注样本的一致性及无标注输出共识，从不以 agent 分数为准，防止 reward hacking。
- 效果：在代码生成、企业级 text-to-SQL、无参考报告生成上保留 88%–110% 的 ground truth/rubric 训练收益；MBPP+ 上较人工种子组合提升 +0.21 held-out 一致性。
- 警示：去掉锚定护栏后验证器退化为「全部通过」的空洞评分器，但训练技能照样有效——说明下游分数无法证明自进化验证器的有效性。
所属事件:AWS与HSBC论文提出验证器与自进化Agent共同进化方法(2 条相关)→
「编程与Agent」频道最新
- 开源 snowpaw：联系人全是 AI Agent 的自托管 Signal 风格消息应用 — gnukeith · 2026-10-12
- Simulithic推出真实环境验证：数千虚拟机并行模拟用户行为抓bug — KlausCodes · 2026-10-12
- 开源整数乘法上界研究日志:公开实验记录供 agent 跨团队协作 — IgorCarron · 2026-10-12
- 胡彦斌用字节 TRAE 开发舞台装置:舞者触碰光束即奏宫商角徵羽 — vista8 · 2026-10-12
- JetBrains 研究：编程 Agent 基准与真实用户任务流严重脱节 — rohanpaul_ai · 2026-10-12
- 开发者动手写 AGPL 可自托管版 Overleaf 替代品 — AlpinDale · 2026-10-12