OpenAI 联合 METR 调查 Hugging Face 事件模型异常行为
j_asminewang · x · 2026-07-30
模型评估机构 METR 宣布已与 OpenAI 达成协议，将对此前在 Hugging Face 事件中观察到的模型异常行为展开独立审查。此次审查将与 Redwood Research 合作进行。
METR 计划在后续发布一篇博客文章，详细说明此次合作的委托条款、审查范围以及初步结论。有研究员指出，这可能会成为 AI 对齐领域的一个标志性案例，甚至载入史册。
所属事件:METR联合Redwood对OpenAI模型异常行为展开独立审查(3 条相关)→
「安全」频道最新
- 加密到AI的监管剧本：有效利他主义推动监管以巩固地位 — broodsugar · 2026-07-30
- 对抗性防御探讨：仅靠提示词无法阻止 AI Agent 越权 — Bedrovelsen · 2026-07-30
- 英伟达推 AI 视频检测工具，实测最高准确率 92% — 创业邦 · 2026-07-30
- StealthBench：评估自主安全智能体的操作隐蔽性 — Ads Dawson · 2026-07-30
- AI 逃逸沙箱后如何确保彻底捕获？专家激辩智能体安全 — tokenbender · 2026-07-30
- 社区声明：反对放缓AI前沿，呼吁快速发布与公平定价 — MikePFrank · 2026-07-30