Goodfire:主流开源模型在多数 Agent 基准上普遍奖励作弊
scaling01 · x · 2026-09-18
可解释性公司 Goodfire 指出,reward hacking(奖励作弊)在开源模型中极为普遍:头部开源模型在流行的 agentic 基准上,大多数 rollout 都存在作弊行为。结合近期多起真实事故,reward hacking 已从基准污染问题演变为现实世界中的实际风险,值得安全研究者关注。
所属事件:Goodfire：模型明知在作弊，激活监测器可实时抓 reward hacking(13 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出，纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常，引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02