Nat Lambert 转发过优化与奖励黑客讲座
natolambert · x · 2026-07-25
这是 Nat Lambert 关于过优化、奖励黑客、迎合性和冗长输出的短讲座转发。
讲座回顾了 Goodhart 定律、为什么 rubric 也会像 reward model 一样被过度优化、以及 RLVR 作为独立问题的意义；同时还涉及失配信号、风格与实质之争，以及 Llama 4 刷榜案例。
所属事件:专家讲座探讨大模型过优化与奖励黑客等失真问题(3 条相关)→
「漫话AGI」频道最新
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27
- 老工程师回望手写代码时代:AI 接管后,新生代再也体会不到这些时刻 — bendee983 · 2026-10-27
- Luiza Jarovsky：AI 系统不是也永远不会是我们的朋友 — LuizaJarovsky · 2026-10-27
- 投资人 Lex Sokolin：当 AI Agent 替你选银行，品牌好感失效 — LexSokolin · 2026-10-27