Apollo Research 派 6 名评估员入驻 OpenAI 四个月,查模型是否暗中破坏监督

MariusHobbhahn · x · 2026-11-17

Apollo Research 宣布与 OpenAI 启动「嵌入式评估」试点:6 名来自 Apollo 的评估员将驻场 OpenAI 四个月,调查模型是否会试图破坏对自身的监督与控制,重点研究训练流程可能在多大程度上激励模型的 scheming(密谋欺骗)与 subversion(暗中颠覆)行为。

Apollo CEO Marius Hobbhahn 表示,这项试点正是其团队过去两年研究方向的直接延续——把安全评估从外部审计推进到嵌入前沿实验室训练现场。

所属事件:Apollo 派六名评估员入驻 OpenAI 调查模型破坏监督(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →