OpenAI 联合 Apollo、METR 等四机构对模型做嵌入式独立安全评估
MariusHobbhahn · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce AI 和 Goodfire AI 合作开展「嵌入式评估」(embedded assessments):让外部专家深度接触其内部模型与系统,调查对齐情况并测试安全护栏。
这一机制为独立第三方提供对公司内部风险管理方式的审视渠道,建立在 OpenAI 既有对齐与安全研究之上。转发者评论称这对「爱耍花招的模型」不是好日子,暗示此举针对模型的欺骗性对齐行为。
所属事件:OpenAI 联手四家安全机构启动嵌入式评估(9 条相关)→
「漫话AGI」频道最新
- NVIDIA/斯坦福背景研究者 Cho 创办 Noeri,融资 1.1 亿美元押注「多元智能」 — YejinChoinka · 2026-11-17
- Garrison Lovely《Obsolete》入选 FT 2026 年度最佳经济学图书 — GarrisonLovely · 2026-11-17
- Cameron:开放权重模型是抵御 AI 集权化的自由防线 — markjeffrey · 2026-11-17
- diginomica 周报:伦理委员会不够了,AI 去偏见需嵌入全流程 — jonerp · 2026-11-17
- 认知科学家 Alison Gopnik 将演讲:孩子如何教我们理解 AI 学习 — AlisonGopnik · 2026-11-17
- 微软iWSP:让Claude直接写权重,166参数实现算法任务 — dair_ai · 2026-11-17