OpenAI 携手四家外部机构对内部模型做嵌入式安全评估
OpenAI · x · 2026-11-17
OpenAI 宣布与 Apollo Research、METR、Transluce AI 和 Goodfire AI 四家机构合作开展「嵌入式评估」(embedded assessments),让外部专家深度接触其内部模型与系统,独立审查对齐情况与安全防护措施。具体分工:
- Apollo Research:评估模型是否会隐蔽地违背开发者的意图,并检验现有防护能否检测此类行为,将审查训练、安全测试与内部使用中的证据。
- METR:调查 OpenAI 迄今最大规模强化学习运行中的错位行为,包括现有测试和监控可能漏掉的失败案例;双方还初步同意进行更广泛的监控器评估。
- Transluce AI:评估后训练对齐评测的质量与覆盖面,开发补充测试并提出改进建议,计划于 2027 年扩大试点。
- Goodfire AI:派驻可解释性研究人员,用其平台分析模型内部机制,聚焦训练运行监控、调试与对齐。
「模型」频道最新
- Every 实测 Gemini 4 Carbon:编码大幅进步,判断力仍输给 Fable 5.2 — every · 2026-11-17
- 谷歌联合 Artificial Analysis 发布 MKA 基准:200 个专家级多模态任务 — osanseviero · 2026-11-17
- MKA 基准实测:Gemini 4 Carbon 得分 54.3%,单任务成本仅为 Claude 的 1/6 — _philschmid · 2026-11-17
- 谷歌发布 Gemini Decisions API:一次评估千个问题、0 输出 token 计费 — _philschmid · 2026-11-17
- Gemini 4 Carbon vs Hydrogen 怎么选:一个深度推理,一个日常编码 — _philschmid · 2026-11-17
- 谷歌 DeepMind 一周连发 7 项开发者更新:Gemini 4 双模型领衔 — _philschmid · 2026-11-17