Thom Wolf 新讲座谈过优化、奖励黑客与逢迎
Thom_Wolf · x · 2026-07-26
一场更短的讲座，主题是过优化、奖励黑客、逢迎和冗长等问题。
Thom Wolf 说，这次内容主要是基础概念、历史脉络和一些反思。他在录制时意识到，rubric 也可能像 reward model 一样被过度优化，而 RLVR 本身又是另一回事。
讲座主要覆盖：
- 过优化与 Goodhart 定律
- 奖励黑客的基础
- 逢迎与冗长行为
- 为什么评测标准本身也会被“刷分”
所属事件:专家讲座探讨大模型过优化与奖励黑客等失真问题(3 条相关)→
「研究」频道最新
- 新加坡国立大学做出无电子无外部供能软力传感器 — CurieuxExplorer · 2026-07-27
- Chelsea Finn：机器人 RL 的瓶颈是物理 rollout 成本 — ycombinator · 2026-07-27
- ICML 2026 口头论文复现分数重算后仍偏中等 — profjamesevans · 2026-07-27
- 长周期智能体最终需要不可变事件日志 — sebpaquet · 2026-07-27
- Seed IQ 在 Doom II 里通关，引出 ARC-AGI 之后的评测问题 — Fit_Transition8824 · 2026-07-27
- 实测智能体数据科学工作流：代码能跑但常答错问题 — hugobowne · 2026-07-27