METR 将独立调查 Anthropic 智能体事故,Redwood 参与协作
ajeya_cotra · x · 2026-09-12
评测机构 METR 宣布已与 Anthropic 达成协议，将对其公司内部的智能体（agent）事故及模型对齐属性展开独立调查，并将发布一份或多份公开报告，说明调查发现与合作条款。
对齐研究组织 Redwood Research 确认其多名员工已被 METR 分包参与此项调查，并表示独立调查对理解和管理对齐失准风险至关重要。
这是紧随 Dario Amodei「限速」文章承诺开放第三方评估后落地的第一个具体独立调查项目。
「安全」频道最新
- Dario 发文呼吁给前沿 AI 限速,Anthropic 率先向第三方评估者开放系统 — dhadfieldmenell · 2026-09-13
- 投资人批「前沿限速」无标准可循,主张靠沙盒与安全护栏而非政府监管 — firstadopter · 2026-09-13
- Sam Altman 同意 Dario 的前沿降速主张,承诺独立评估者权限 — MaziyarPanahi · 2026-09-13
- 学者：AI 需证明真实改善生活才能赢得信任 — dhadfieldmenell · 2026-09-13
- 提案变更即失效:为 Agent 审批绑定内容哈希防越权 — arthaudm · 2026-09-13
- Timnit Gebru 批 AI 公司：炒作灭绝论掩盖自主武器等现实危害 — SatelliteNetSec · 2026-09-13