研究者批 OpenAI 第三方安全评估倒退:审计权限远不及 METR 时期

DKokotajlo · x · 2026-11-17

OpenAI 官宣与 Apollo Research、METR、Transluce、Goodfire 四家机构开展「嵌入式评估」,让外部专家深入接触内部模型与系统以调查对齐、测试安全护栏。

研究员 tomekkorbak 引用并批评:这四项第三方参与的形式在很多方面相比 OpenAI 此前与 METR 的合作是倒退——

作者认为这种安排让 OpenAI 很容易精心挑选模型、数据子集和员工来粉饰真实风险图景;嵌入式审计要真正奏效,审计者必须获得员工级访问权限,而不是被公司圈定范围的承包方。

所属事件:OpenAI 嵌入式安全评估被批权限缩水(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →