OpenAI引入四家外部机构做嵌入式安全评估,被批仍由其掌控

trevposts · x · 2026-11-17

OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家机构合作开展「嵌入式评估」(embedded assessments),让外部专家深入接触其内部模型与系统,调查对齐情况并测试安全护栏,作为其安全研究体系的延伸。

但研究员 Peter Wildeford 随即提出质疑:OpenAI 曾承诺给予「员工级访问权限」,实际并非如此——OpenAI 依然控制评估者能看到什么、能与谁交谈、能说什么,并且可以无视所有结论。他呼吁建立真正独立的嵌入式评估机制,类似银行与金融业的独立审计。

这一争议折射出前沿实验室外部监督的核心矛盾:评估由被评估方自己设定边界,独立性存疑。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →