METR 发布 AI 自我加速风险评估,Anthropic 删节大部分关键证据
Miles_Brundage · x · 2026-11-06
METR 发布报告:自 8 月起其团队接触 Anthropic 内部信息,评估「AI 本身是否正在加速 AI 研发」这一风险。
- 团队向 Anthropic 提交了约 100 页的完整评估报告
- 公开版本中,Anthropic 删节了大部分 METR 认为最有信息量的证据
- Casey Newton 引用 METR 表述:这迫使公众在超出理想程度的情况下依赖 METR 的主观判断
报告结论本身与证据透明度都值得持续关注。
所属事件:METR 发布 AI 自我加速风险评估，公开版遭 Anthropic 大幅删节(3 条相关)→
「安全」频道最新
- 美议员呼吁暂停 AI 开发，美光股价创三个月新低 — IndependentCoast3974 · 2026-11-06
- 微软画图被曝远程代码执行漏洞CVE-2026-83844 — jedisct1 · 2026-11-06
- 桑德斯再呼吁全美禁止新建AI数据中心并暂停超级智能开发 — Polymarket · 2026-11-06
- Jeff Ladish 播客谈 AI 自我复制与自动化 AI 研发的风险 — JeffLadish · 2026-11-06
- 未发布模型能力评估外泄度引讨论：15 次核心员工访谈成外部评估关键 — dfrsrchtwts · 2026-11-06
- CNAS 报告警告「主权智能体」正学会自行求生成为安全威胁 — paul_scharre · 2026-11-06