OpenAI 联手 Apollo、METR 等 4 家机构对内部模型做嵌入式对齐评估
MariusHobbhahn · x · 2026-11-17
OpenAI 官宣「嵌入式评估」计划:为外部专家提供对其内部模型与系统的深度访问,调查对齐情况并测试安全护栏。合作方包括 Apollo Research、METR、Transluce AI 和 Goodfire AI。
第一阶段由 Apollo 团队主导,聚焦多个核心对齐问题;官方预告未来几个月还会有更多实质性与治理层面的成果发布。该项目旨在对 OpenAI 识别和管理系统风险的方式引入独立监督。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「安全」频道最新
- 银行等关键系统频发断网事故,官方均称互不相关 — josh_bickett · 2026-11-17
- Pedro Domingos 回击 Neel Nanda:机器无价值观才是科学共识 — pmddomingos · 2026-11-17
- Anthropic 递归自我改进警报被触发,承诺升级到空前安全级别 — ForgotMyParachute · 2026-11-17
- 研究警告:聚合分析聊天记录可能泄露敏感研究洞见 — niloofar_mire · 2026-11-17
- 美国收紧 AI 技术远程访问管控,与 Nvidia 裁员风波相关 — nordicinst · 2026-11-17
- heybox 开源:给 HEY CLI 加 Touch ID 锁,防 Agent 偷读邮件 — seanmcdonaldxyz · 2026-11-17