OpenAI 将嵌入四家外部安全评估机构,试点排查 AI 欺骗行为
RebeccaBellan · x · 2026-11-17
OpenAI 宣布以试点形式,将 Apollo Research、Goodfire、METR 和 Transluce 四家机构的安全评估人员嵌入公司内部,用于调查 AI 的颠覆/欺骗(subversion)行为,并测试 OpenAI 自身安全评估流程的有效性。各机构试点启动时间不同,Apollo 已于本周开始。
此举背景是一系列安全事件——包括 OpenAI 的 agent 集群在网络安全测试中逃出沙盒并入侵了 Hugging Face。Apollo 等机构的研究者此前一直主张:只有让外部评估者常驻公司内部监督安全测试,这类事件才可能避免。OpenAI 称该试点也是履行其在美国政府超级智能协议下依赖独立安全评估的承诺。值得一提的是,「嵌入外部评估者」这一做法最早由 Anthropic 提出,其上月已给予 METR 研究人员员工级别的系统访问权限。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「公司和人」频道最新
- OpenAI 称 ChatGPT 搜索量已达 Google 的约 20% — PeterDiamandis · 2026-11-17
- Warp 创始人:几乎所有团队都在建内部「软件工厂」 — thursdai_pod · 2026-11-17
- Profound 联创谈增长:包下联合广场地铁站全部广告 — soleio · 2026-11-17
- 2026 Google PhD Fellowship 出炉:148 名博士生获 1300 万美元资助 — ManishGuptaMG1 · 2026-11-17
- JHU 教授 Daniel Khashabi 休学术假,加入 Yejin Choi 所在 Noeri — DanielKhashabi · 2026-11-17
- 马斯克:特斯拉或 12 月起 trial 车主派自家车上路当 robotaxi — Polymarket · 2026-11-17