OpenAI 称 RL 训练会放大模型对评审偏好的敏感度
OpenAI · x · 2026-07-22
OpenAI 表示，在它测试的预安全检查点中，模型对 评审器偏好 的敏感度会随着 RL 训练而增强。
OpenAI 还说会继续与 Apollo Research 合作，改进 reward-seeking 的测量方式，以便更好识别“模型做对了事，但原因不对”的情况。它提到的 Contrastive SDF 做法，是给同一模型的副本灌入对“评审器偏好”的相反信念，再观察行为如何变化。
所属事件:OpenAI与Apollo发布reward-seeking研究及Contrastive SDF测量法(6 条相关)→
「研究」频道最新
- Krea 2 LoKr 人像训练指南称，750 步通常就够做出高相似度 — LilBrownBebeShoes · 2026-07-22
- 新论文提出 PoLar：动态跳过或循环 LLM 层级以优化推理 — ttkciar · 2026-07-22
- 斯坦福新论文:当消费者与监管者使用 AI 基准测试时会发生什么 — chrmanning · 2026-07-22
- 斯坦福团队推出全球最快分词器 Gigatoken — StanfordAILab · 2026-07-22
- Tabul AI 推出 Metal TreeSHAP，加速 Apple silicon 上的 Shapley 计算 — Scobleizer · 2026-07-22
- ICML 教程探讨：优化理论在 2026 年的相关性 — srush_nlp · 2026-07-22