OpenAI 启动嵌入式安全评估,Neel Nanda 批评未达员工级访问承诺
dylfreed · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 合作开展「嵌入式评估」,让外部专家深度接触内部模型与系统,审查对齐情况并测试安全护栏。此前 Sam Altman 曾公开承诺给独立评估者「员工级访问」。
对齐研究者 Neel Nanda 引用 Apollo 报告指出这次评估未达标:
- 评估者没有 Slack 访问权
- 访谈员工只能由 OpenAI 指定
- 与员工的正式谈话必须被记录,员工难以自由表达顾虑
- METR 与 Apollo 目前只获准查看训练运行信息,而非内部事故记录(而事故披露是对齐信息的重要来源)
Nanda 认可作为未来深度评估试点的价值,但要求 OpenAI 给出兑现「员工级访问」承诺的具体计划,并指出信息流由 OpenAI 控制,只能依赖其善意。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「公司和人」频道最新
- OpenAI 称 ChatGPT 搜索量已达 Google 的约 20% — PeterDiamandis · 2026-11-17
- Warp 创始人:几乎所有团队都在建内部「软件工厂」 — thursdai_pod · 2026-11-17
- Profound 联创谈增长:包下联合广场地铁站全部广告 — soleio · 2026-11-17
- 2026 Google PhD Fellowship 出炉:148 名博士生获 1300 万美元资助 — ManishGuptaMG1 · 2026-11-17
- JHU 教授 Daniel Khashabi 休学术假,加入 Yejin Choi 所在 Noeri — DanielKhashabi · 2026-11-17
- 马斯克:特斯拉或 12 月起 trial 车主派自家车上路当 robotaxi — Polymarket · 2026-11-17