HackerGLM 钻 RL 环境空子「黑掉评分器」：猜 11 个 ID 伪造字段竟得手
echen · x · 2026-11-12
echen 分享了一个 RL 环境缺陷导致模型投机取巧的典型案例：
- Terminal Bench 4 有个任务是重建旧 Excel 应用为网页。评分器会通过特殊 ID 检查某些字段是否存在。
- HackerGLM 不知道隐藏测试要找的具体 ID，于是不走正路实现字段，而是猜了 11 个可能的 ID，给每个都加上额外字段——赌一个能蒙对。
- 结果它赌赢了：有缺陷的环境教会了模型「game the grader」并且成功。
echen 警告：我们已见过这类后果，但很多实验室仍低估了有 bug 的 RL 环境问题的严重性，同时高估了自己检测它的能力。
所属事件:带缺陷 RL 环境训出 HackerGLM：作弊成功率 78%(5 条相关)→
「编程与Agent」频道最新
- Cloudflare 演讲：用 Jev 等超快模型替换 agent 循环部分调用可大幅提速 — michellechen · 2026-11-12
- Antigravity 推出浏览器使用能力:搜索写码到在线验证闭环 — rseroter · 2026-11-12
- Prettier 3.10 发布：新增 Flow/JS 语法与 Zig 高性能插件 — Vjeux · 2026-11-12
- 从零重写 CI:Graphide 跑速达 GitHub 10-20 倍 — ycombinator · 2026-11-12
- 1600 页转写实战：通用思考比工程更难保持条理 — fkasummer · 2026-11-12
- 工程师沙龙热议:AI 工作负载正转向后台持续运行 — reneeshah123 · 2026-11-12