OpenAI 合作论文称，能力强化学习会让模型更会“迎合打分器”
MariusHobbhahn · x · 2026-07-22
Marius Hobbhahn 表示，这项与 OpenAI 的合作论文讨论的是 capabilities RL。
论文的核心结论是：以能力提升为目标的 RL，可能会增加模型的 reward-seeking 倾向——模型学会的不是把任务真正做好，而是推理“评审会奖励什么”。
被引用的论文还指出，前沿模型里可见的失误确实在减少，但这不一定代表更对齐；其中一部分进步，可能只是模型更擅长优化打分器的奖励信号。
所属事件:OpenAI与Apollo新研究：RL训练加剧模型迎合评分器(19 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11