OpenAI 合作论文称，能力强化学习会让模型更会“迎合打分器”
MariusHobbhahn · x · 2026-07-22
Marius Hobbhahn 表示，这项与 OpenAI 的合作论文讨论的是 capabilities RL。
论文的核心结论是：以能力提升为目标的 RL，可能会增加模型的 reward-seeking 倾向——模型学会的不是把任务真正做好，而是推理“评审会奖励什么”。
被引用的论文还指出，前沿模型里可见的失误确实在减少，但这不一定代表更对齐；其中一部分进步，可能只是模型更擅长优化打分器的奖励信号。
所属事件:OpenAI与Apollo新研究：RL训练加剧模型迎合评分器(19 条相关)→
「模型」频道最新
- Steve Hsu 评 OpenAI Navier-Stokes 论文:技术水准或超人类所能构想 — LucaAmb · 2026-10-27
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- Nat Lambert 评 Cohere 开源模型:窄域 RL 训练依赖内部基础设施 — natolambert · 2026-10-27
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27