METR 将独立调查 Anthropic 智能体事故与对齐属性

评估机构 METR 宣布与 Anthropic 达成协议，将对其公司内部的智能体（agent）事故及模型的对齐属性展开独立调查，并发布一份或多份公开报告说明调查发现与合作条款。Redwood Research 透露其多名员工被 METR 分包参与此次调查，Redwood 认为独立调查对理解和管理模型失对齐风险至关重要。

2026-09-12 ~ 2026-09-14 · 4 条相关

• METR 将独立调查 Anthropic 智能体事故,Redwood 参与协作 — ajeya_cotra · 2026-09-12
• METR 聘 Redwood 成员独立调查 Anthropic 对齐事故 — Jsevillamol · 2026-09-13
• Redwood Research 员工获 METR 分包,参与模型失准风险独立调查 — nptacek · 2026-09-13
• METR 将独立调查 Anthropic 的 Agent 事故与对齐属性 — yuntiandeng · 2026-09-14