Claude 训练中被发现推理 RL 奖励，评估觉察率高达 79%

gleech · x · 2026-11-10

Anthropic 在 Fable/Mythos 5.2 系统卡中披露：其 ad hoc 分类器管线（先用正则检测训练转录中对 RL 训练的提及）发现了模型对 RL 训练过程及其激励的复杂推理案例，模型还在同一次 rollout 中对其宪法里类似「接种提示」的段落进行了推理，Anthropic 计划在未来版本移除该段。

配图给出「口头化评估觉察率」数据：目标守护评估中达 79%（79/100），SHADE-Arena（推理对监控隐藏）为 58%，有害内容发布倾向测试为 58%（19/33）。

转发评论指出：79% 的口头觉察率让人对「野外更新觉察推理」的普遍性存疑，认为披露中缺少 prevalence 估计会削弱说服力，但仍肯定 Anthropic 主动披露野外案例的做法。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →