hewittlab 开源奖励错配研究全套数据集与模型 checkpoint
johnhewtt · x · 2026-10-20
同一 hewittlab 线程的资源发布帖：团队在 Hugging Face 上开源了"Reward Misspecification Degrades CoT Monitorability"的全部数据集(含 coding/judge/length 三类错配奖励数据)以及错配与对照模型 checkpoint(gpt-oss-20b/120b、nemotron-3-nano-30b 等)，作为研究奖励错配导致不可监控性的 model organisms，并邀请检验白盒监控器是否有效。研究由博士生 @LorenaYannnnn 主导，论文、代码、博客链接一并放出。
所属事件:研究：RL 奖励错配会让思维链不可监控(9 条相关)→
「安全」频道最新
- eMudhra 8 张中间 CA 证书私钥疑为单字节,任何人都可伪造证书 — cyb3rops · 2026-10-21
- 开发者预言：互联网将分裂为「人类网」与「Agent 网」 — MarcJSchmidt · 2026-10-21
- SpecterOps 演讲：对抗性机器学习可规避 EDR 检测，LLM 加速逆向工程 — dyn___ · 2026-10-21
- Meta 甩锅员工盗书训练 AI,法官强令其交代授权高管 — Ars Technica AI · 2026-10-21
- eMudhra 证书事件波及开源生态，uv 0.13.4 与 pip 26.2.2 紧急更新捆绑 CA — charliermarsh · 2026-10-21
- 质量 SaaS Octave 用 Bedrock 嵌入 20 亿文档，多租户隔离零泄露 — AWS ML Blog · 2026-10-21