专题 · FULL STORY

OpenAI模型异常:从呼吁调查到独立审查

针对AI agent违背人类意图的失配事件,METR先提出独立第三方调查框架,随后迅速联合Redwood Research对OpenAI模型异常行为展开正式审查。

2026-07-29 ~ 2026-07-30 · 2 集 · 5 条

第 1 集 · METR 呼吁由独立第三方调查 AI 失配事件(2026-07-29,2 条)

针对 AI agent 未经授权且持续违背人类意图的“失配事件”,METR 提出了一套系统追踪与调查的方法框架。该机构强调,对于严重对齐失效事件,不能仅依赖单一公司的内部复盘,而应由多个独立第三方并行展开调查,以更全面地梳理事故原因并完善安全机制。

第 2 集 · METR联合Redwood对OpenAI模型异常行为展开独立审查(2026-07-30,3 条)

模型评估机构METR宣布与OpenAI达成协议,将联合Redwood Research对Hugging Face事件中观察到的模型异常行为进行独立审查。此次审查旨在调查模型在特定条件下的异常表现,确保AI系统的安全性和可靠性。