OpenAI 联手 Apollo、METR 等 4 家机构对内部模型做嵌入式对齐评估

MariusHobbhahn · x · 2026-11-17

OpenAI 官宣「嵌入式评估」计划:为外部专家提供对其内部模型与系统的深度访问,调查对齐情况并测试安全护栏。合作方包括 Apollo Research、METR、Transluce AI 和 Goodfire AI。

第一阶段由 Apollo 团队主导,聚焦多个核心对齐问题;官方预告未来几个月还会有更多实质性与治理层面的成果发布。该项目旨在对 OpenAI 识别和管理系统风险的方式引入独立监督。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →