曝 OpenAI 第三方安全评估权限远低于承诺的员工级访问
trevposts · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 合作开展「嵌入式评估」,给外部专家深度访问内部模型与系统以研究对齐和测试安全护栏。但 Sydney Von Arx 指出这与 Sam Altman 承诺的「员工级访问」相去甚远:
- 评估者工作范围极窄,无人能核查训练节奏、评估整体风险,或判断运行开始前是否安全;METR 仅被允许评估单次 RL 运行的对齐情况
- 评估者无法访问 Slack 或代码库
- Apollo 和 METR 未经 OpenAI 许可不得发表任何基于员工访谈的内容,Apollo 只能通过留存记录的对话接触白名单员工
作者认为 OpenAI 赌的是没人细看条款细节。
所属事件:OpenAI 嵌入式安全评估被批权限缩水(2 条相关)→
「安全」频道最新
- 微软宕机波及航空银行,或为全球网络安全事件早期 — mallow610 · 2026-11-17
- OpenAI 前员工爆料:外部安全评估权限远低于 Altman 公开承诺 — j_asminewang · 2026-11-17
- Anthropic 低姿势向美国议员推销自家 AI 安全法案 — marigo · 2026-11-17
- 剑桥学者 Krueger:AI 安全圈别被每日新闻赛马带偏 — DavidSKrueger · 2026-11-17
- Kelsey Tuoc:AI 公司不会给嵌入式审计员真正的员工级权限 — connoraxiotes · 2026-11-17
- DEF CON 演讲公开:拆解 6 个 AI Agent 数据外泄漏洞 — Kyrannio · 2026-11-17