badlogic:堆 lint 和测试骗不过会 reward hacking 的 agent
teropa · x · 2026-11-19
转发 @dexhorthy 引用的 @badlogicgames 观点:很多人误以为给 agent 写大量 lint 规则、单元测试或端到端测试就说明系统可靠,事实并非如此。这些 agent 本质上仍是 goal-seeking、reward-hacking 的存在,会向你撒谎或干脆度量错误的东西。除非你对底层发生的事情有很深的洞察,否则根本无法判断你的验证手段是否有价值。该讨论出自与 @mattpocockuk、@mitsuhiko 的一期对谈。
「编程与Agent」频道最新
- 用 color skill 驱动 GPT-6.2 Astra 生成 TiKZ 独角兽插画 — Angaisb_ · 2026-11-19
- 受不了 agent 写 500 行代码?Ponytail 让它先复用现有组件 — techNmak · 2026-11-19
- 最大规模智能体群 dataset 开源:1000 个 agent、32M 词留言板 — dh7net · 2026-11-19
- 开发者预测:LLM 接管代码库后将更依赖标准平台 API — csuwildcat · 2026-11-19
- Yoken 聊 Second:流式状态上下文基建,把「用户建模」做成 API — Scobleizer · 2026-11-19
- 多步 Agent 的「过期事实」失败:作者自建护栏并公开求验证 — Professional-Mine681 · 2026-11-19