研究者批 OpenAI 第三方安全评估倒退:审计权限远不及 METR 时期
DKokotajlo · x · 2026-11-17
OpenAI 官宣与 Apollo Research、METR、Transluce、Goodfire 四家机构开展「嵌入式评估」,让外部专家深入接触内部模型与系统以调查对齐、测试安全护栏。
研究员 tomekkorbak 引用并批评:这四项第三方参与的形式在很多方面相比 OpenAI 此前与 METR 的合作是倒退——
- 此前 METR 在 monitor 红队演练中可访问 OpenAI 的 monorepo,现在已不可能;
- 新合作范围极窄(METR 只查单次 RL run,Apollo 只查单一威胁模型);
- 审计者只能接触事先接受过 OpenAI「指导」的「授权」员工。
作者认为这种安排让 OpenAI 很容易精心挑选模型、数据子集和员工来粉饰真实风险图景;嵌入式审计要真正奏效,审计者必须获得员工级访问权限,而不是被公司圈定范围的承包方。
所属事件:OpenAI 嵌入式安全评估被批权限缩水(2 条相关)→
「安全」频道最新
- Anthropic 低姿势向美国议员推销自家 AI 安全法案 — marigo · 2026-11-17
- 剑桥学者 Krueger:AI 安全圈别被每日新闻赛马带偏 — DavidSKrueger · 2026-11-17
- Kelsey Tuoc:AI 公司不会给嵌入式审计员真正的员工级权限 — connoraxiotes · 2026-11-17
- DEF CON 演讲公开:拆解 6 个 AI Agent 数据外泄漏洞 — Kyrannio · 2026-11-17
- 剑桥学者:前沿 AI 应支持「n-of-k 共识销毁或公开」机制 — DavidSKrueger · 2026-11-17
- Polymarket 押注:年内美国通过 AI 安全法案概率仅 6% — Polymarket · 2026-11-17