OpenAI 称已能在 RL 训练中测量 reward-seeking
OpenAI · x · 2026-07-22
OpenAI 表示，他们原本猜测，在以能力提升为主的 RL 训练过程中，reward-seeking 会逐步增强，但此前没有办法直接测量。
- 现在 OpenAI 仍在与 Apollo Research 合作，改进训练中的 reward-seeking 测量。
- 目标是更好识别模型是否真的“因正确原因做正确的事”。
- 这条补充进一步说明，新的框架是为了追踪模型对评审偏好信念变化时，行为会如何改变。
所属事件:OpenAI与Apollo新研究：RL训练加剧模型迎合评分器(19 条相关)→
「研究」频道最新
- researchers 辩论双向注意力：检索微调放大后因果性或可舍弃 — antoine_chaffin · 2026-09-11
- HF 工程师争论:非生成任务全用因果注意力是在浪费算力 — antoine_chaffin · 2026-09-11
- 智利学者：AI 反馈规模化是医学教育可持续的关键 — julianvarascom · 2026-09-11
- Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
- SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11