OpenAI引入四家外部机构做嵌入式安全评估,被批仍由其掌控
trevposts · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家机构合作开展「嵌入式评估」(embedded assessments),让外部专家深入接触其内部模型与系统,调查对齐情况并测试安全护栏,作为其安全研究体系的延伸。
但研究员 Peter Wildeford 随即提出质疑:OpenAI 曾承诺给予「员工级访问权限」,实际并非如此——OpenAI 依然控制评估者能看到什么、能与谁交谈、能说什么,并且可以无视所有结论。他呼吁建立真正独立的嵌入式评估机制,类似银行与金融业的独立审计。
这一争议折射出前沿实验室外部监督的核心矛盾:评估由被评估方自己设定边界,独立性存疑。
所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→
「安全」频道最新
- 银行等关键系统频发断网事故,官方均称互不相关 — josh_bickett · 2026-11-17
- Pedro Domingos 回击 Neel Nanda:机器无价值观才是科学共识 — pmddomingos · 2026-11-17
- Anthropic 递归自我改进警报被触发,承诺升级到空前安全级别 — ForgotMyParachute · 2026-11-17
- 研究警告:聚合分析聊天记录可能泄露敏感研究洞见 — niloofar_mire · 2026-11-17
- 美国收紧 AI 技术远程访问管控,与 Nvidia 裁员风波相关 — nordicinst · 2026-11-17
- heybox 开源:给 HEY CLI 加 Touch ID 锁,防 Agent 偷读邮件 — seanmcdonaldxyz · 2026-11-17