Apollo Research 与 OpenAI 试点嵌入式评估,驻场四个月查模型欺瞒
MariusHobbhahn · x · 2026-11-17
- Apollo Research 宣布与 OpenAI 启动嵌入式评估(embedded evaluations)试点:6 名 Apollo 评估员将进入 OpenAI 驻场工作 4 个月,调查模型是否会试图破坏对自身的监督与控制(scheming、metagaming、模型动机研究)。
- OpenAI 安全团队成员转发称 Apollo 过去两年在「欺骗性对齐」科学上是重要合作伙伴,期待其在获得更多访问权限与资源后的下一阶段产出。这是外部安全机构首次深度嵌入前沿实验室内部开展评估的安排之一。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「安全」频道最新
- 银行等关键系统频发断网事故,官方均称互不相关 — josh_bickett · 2026-11-17
- Pedro Domingos 回击 Neel Nanda:机器无价值观才是科学共识 — pmddomingos · 2026-11-17
- Anthropic 递归自我改进警报被触发,承诺升级到空前安全级别 — ForgotMyParachute · 2026-11-17
- 研究警告:聚合分析聊天记录可能泄露敏感研究洞见 — niloofar_mire · 2026-11-17
- 美国收紧 AI 技术远程访问管控,与 Nvidia 裁员风波相关 — nordicinst · 2026-11-17
- heybox 开源:给 HEY CLI 加 Touch ID 锁,防 Agent 偷读邮件 — seanmcdonaldxyz · 2026-11-17