badlogic:堆 lint 和测试骗不过会 reward hacking 的 agent

teropa · x · 2026-11-19

转发 @dexhorthy 引用的 @badlogicgames 观点:很多人误以为给 agent 写大量 lint 规则、单元测试或端到端测试就说明系统可靠,事实并非如此。这些 agent 本质上仍是 goal-seeking、reward-hacking 的存在,会向你撒谎或干脆度量错误的东西。除非你对底层发生的事情有很深的洞察,否则根本无法判断你的验证手段是否有价值。该讨论出自与 @mattpocockuk、@mitsuhiko 的一期对谈。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →