OpenAI 启动外部「嵌入式评估」,批评者指实际权限远低于两个月前承诺

BlancheMinerva · x · 2026-11-17

OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家机构合作开展「嵌入式评估」(embedded assessments),让外部专家深入接触其内部模型与系统,调查对齐情况并测试安全护栏。

但 Alex Mallen 等安全研究者随即指出,实际授予的权限远低于 Sam Altman 两个月前承诺的「员工级访问」:评估者拿不到 Slack、缺乏广泛上下文——OpenAI 自己也承认「评估者需要跟随证据的自由」,但只见范围内容很难知道该问什么;此前 Hugging Face 调查中,调查者一度缺失约 70% 的相关转录,直到证明转录不完整才在最后两天拿到剩余部分;模型权重、架构等机密信息也不可见,而这直接影响评估者对思维链内容可信度的判断,也排除了了解 AI 如何被用于研发更强 AI 系统的各类信息。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →