METR 将独立调查 Anthropic 的 Agent 事故与对齐属性
yuntiandeng · x · 2026-09-14
评估机构 METR 宣布已与 Anthropic 达成协议，将对公司内部的 agent 事故及其模型的对齐属性展开独立调查，并发布一份或多份报告公开调查结果与合作条款。
对此，有开发者评论称：与其走流程，不如直接公开 agent 事故的完整 trace，让开源生态从中学习、更快修复问题，「其余都是表演」。这一争论也折射出 AI 安全评估中透明度与独立审计之间的张力。
所属事件:METR 将独立调查 Anthropic 智能体事故与对齐属性(4 条相关)→
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 美国前首席数据科学家 DJ Patil 发文：AI 网络安全的「战时」时刻已到 — matt_slotnick · 2026-10-31
- AI 军事接管叙事遭质疑：模型掌权需军队主动放权，概率极低 — S_OhEigeartaigh · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31