METR 评审 Anthropic 风险报告：认同风险低但存重大分歧

CFGeek · x · 2026-10-20

Anthropic 发布了其负责任扩展政策（RSP）下的第二份风险管理报告，其中包含「高风险场景下的失对齐」章节。第三方评测机构 METR 评审了该章节的非公开版本后表示：认同其所覆盖模型因失对齐造成灾难性伤害的风险较低，但同时对 Anthropic 的分析提出了若干重大分歧，具体分歧点尚未在推文中展开。

这是前沿实验室风险自评与独立第三方评审互动的少有公开案例，反映 RSP 机制下外部评审正在实质参与安全论证。