OpenAI 启动「嵌入式评估」:METR、Apollo 等外部专家深度接入内部模型

fatihdin4en · x · 2026-11-17

OpenAI 官方宣布与 Apollo Research、METR、Transluce 和 Goodfire 四家机构合作开展「embedded assessments」:让外部专家深度接入其内部模型和系统,调查对齐情况并测试安全护栏。

其中 Goodfire 将把可解释性研究人员嵌入 OpenAI,用其平台监控和调试训练运行,以改进安全与对齐;评估的主要受众是 OpenAI 内部研究人员,但随合作推进将公开发布发现。这是前沿实验室罕见地把模型训练期风险审查权交给独立第三方。

所属事件:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(19 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →