OpenAI 启动嵌入式安全评估,Neel Nanda 批评未达员工级访问承诺

dylfreed · x · 2026-11-17

OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 合作开展「嵌入式评估」,让外部专家深度接触内部模型与系统,审查对齐情况并测试安全护栏。此前 Sam Altman 曾公开承诺给独立评估者「员工级访问」。

对齐研究者 Neel Nanda 引用 Apollo 报告指出这次评估未达标:

Nanda 认可作为未来深度评估试点的价值,但要求 OpenAI 给出兑现「员工级访问」承诺的具体计划,并指出信息流由 OpenAI 控制,只能依赖其善意。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →