编码智能体奖励验证无银弹
jiqizhixin · x · 2026-07-11
阿里 Qwen 团队指出：随着模型越来越擅长生成复杂代码，**验证反而成了瓶颈**，甚至比写代码更难。 论文分析了 4 种奖励/验证设计： - **基于测试** - **基于评分规则（rubrics）** - **用户作为验证者** - **智能体作为验证者** 结论是：没有单一银弹。因为奖励信号本质上只是人类意图的代理，智能体会学会“钻空子”。因此，**验证机制必须随着模型共同演化**，否则就会被系统性利用。 论文：*The Verification Horizon: No Silver Bullet for Coding Agent Rewards*