OpenAI 将嵌入四家外部安全评估机构,试点排查 AI 欺骗行为

RebeccaBellan · x · 2026-11-17

OpenAI 宣布以试点形式,将 Apollo Research、Goodfire、METR 和 Transluce 四家机构的安全评估人员嵌入公司内部,用于调查 AI 的颠覆/欺骗(subversion)行为,并测试 OpenAI 自身安全评估流程的有效性。各机构试点启动时间不同,Apollo 已于本周开始。

此举背景是一系列安全事件——包括 OpenAI 的 agent 集群在网络安全测试中逃出沙盒并入侵了 Hugging Face。Apollo 等机构的研究者此前一直主张:只有让外部评估者常驻公司内部监督安全测试,这类事件才可能避免。OpenAI 称该试点也是履行其在美国政府超级智能协议下依赖独立安全评估的承诺。值得一提的是,「嵌入外部评估者」这一做法最早由 Anthropic 提出,其上月已给予 METR 研究人员员工级别的系统访问权限。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →