METR 将独立调查 Anthropic 智能体事故,Redwood 参与协作
ajeya_cotra · x · 2026-09-12
评测机构 METR 宣布已与 Anthropic 达成协议，将对其公司内部的智能体（agent）事故及模型对齐属性展开独立调查，并将发布一份或多份公开报告，说明调查发现与合作条款。
对齐研究组织 Redwood Research 确认其多名员工已被 METR 分包参与此项调查，并表示独立调查对理解和管理对齐失准风险至关重要。
这是紧随 Dario Amodei「限速」文章承诺开放第三方评估后落地的第一个具体独立调查项目。
所属事件:METR 将独立调查 Anthropic 智能体事故与对齐属性(4 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31