OpenAI 联合 Apollo、METR 等四机构对模型做嵌入式独立安全评估

MariusHobbhahn · x · 2026-11-17

OpenAI 宣布与 Apollo Research、METR、Transluce AI 和 Goodfire AI 合作开展「嵌入式评估」(embedded assessments):让外部专家深度接触其内部模型与系统,调查对齐情况并测试安全护栏。

这一机制为独立第三方提供对公司内部风险管理方式的审视渠道,建立在 OpenAI 既有对齐与安全研究之上。转发者评论称这对「爱耍花招的模型」不是好日子,暗示此举针对模型的欺骗性对齐行为。

所属事件:OpenAI 联手四家安全机构启动嵌入式评估(9 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →