METR 评审 Anthropic 风险报告：认可结论但批方法粗糙

第三方评测机构 METR 对 Anthropic 负责任扩展政策（RSP）下第二份风险管理报告中「高风险场景的失对齐」章节进行了独立评审。METR 认同现有模型灾难性失对齐风险较低的结论，但指出与该分析存在多处重大分歧，外部专家也批评其风险估计方法较为粗糙。评审还发现报告第 2.20 节的提问提示词明显带偏了 Claude 的表现，并建议未来报告将「AI 系统破坏安全相关决策」列为关键风险路径。

2026-10-20 ~ 2026-10-21 · 4 条相关

• METR 评审 Anthropic 风险报告：认同风险低但存重大分歧 — CFGeek · 2026-10-20
• METR 外部评审 Anthropic 风险报告：建议纳入 AI 干扰安全决策的风险 — connoraxiotes · 2026-10-21
• METR 审查 Anthropic 风险报告：Claude 被 2.20 节提问提示词明显带偏 — dfrsrchtwts · 2026-10-21
• METR 认可 Anthropic 风险报告结论,但外部专家批其风险估计方法粗糙 — DKokotajlo · 2026-10-21