Apollo Research 派 6 名评估员入驻 OpenAI 四个月,查模型是否暗中破坏监督
MariusHobbhahn · x · 2026-11-17
Apollo Research 宣布与 OpenAI 启动「嵌入式评估」试点:6 名来自 Apollo 的评估员将驻场 OpenAI 四个月,调查模型是否会试图破坏对自身的监督与控制,重点研究训练流程可能在多大程度上激励模型的 scheming(密谋欺骗)与 subversion(暗中颠覆)行为。
Apollo CEO Marius Hobbhahn 表示,这项试点正是其团队过去两年研究方向的直接延续——把安全评估从外部审计推进到嵌入前沿实验室训练现场。
所属事件:Apollo 派六名评估员入驻 OpenAI 调查模型破坏监督(2 条相关)→
「安全」频道最新
- Cameron:开放权重模型是抵御 AI 集权化的自由防线 — markjeffrey · 2026-11-17
- 纽约时报请 Vector 科学家分析选举中的 AI:威胁转向病毒式梗图 — VectorInst · 2026-11-17
- AI Now 等 AI 治理专家出席 Fortune 论坛,辩论如何约束 AI 公司权力 — AINowInstitute · 2026-11-17
- 美联航封杀第三方 AI agent 订票,Southwest 却反向接入 ChatGPT — Future_AGI · 2026-11-17
- ARTEX 开源渗透框架数月内成攻击者标配:2700+ IoC、2452 个暴露实例 — cyb3rops · 2026-11-17
- 打印机蜜罐崩溃元凶找到了:A4 任务除零触发 QEMU SIGFPE — moyix · 2026-11-17