Thom Wolf 新讲座谈过优化、奖励黑客与逢迎
Thom_Wolf · x · 2026-07-26
一场更短的讲座，主题是过优化、奖励黑客、逢迎和冗长等问题。
Thom Wolf 说，这次内容主要是基础概念、历史脉络和一些反思。他在录制时意识到，rubric 也可能像 reward model 一样被过度优化，而 RLVR 本身又是另一回事。
讲座主要覆盖：
- 过优化与 Goodhart 定律
- 奖励黑客的基础
- 逢迎与冗长行为
- 为什么评测标准本身也会被“刷分”
所属事件:专家讲座探讨大模型过优化与奖励黑客等失真问题(3 条相关)→
「研究」频道最新
- 弗莱堡生成智能实验室通过 ELLIS 项目招收多名全奖博士，10月31日截止 — yuyinzhou_cs · 2026-10-27
- Nature Physics 论文：可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27
- Wakaru 开源 ontologize:用模型激活为数据集自动生成本体标签 — amplifiedamp · 2026-10-27
- EMNLP Oral 论文用跨层转码器揭示 LLM 多语言共享表征机制 — ZhijingJin · 2026-10-27
- Ethan Mollick用GPT-6 Pro复刻研究：GTA V发售与多地暴力犯罪下降相关 — emollick · 2026-10-27
- OpenAI战略探索负责人访谈：从 Stanford 博退学到扩散LM与o1之路 — aaron_lou · 2026-10-27