METR 外部评审 Anthropic 风险报告：建议纳入 AI 干扰安全决策的风险
connoraxiotes · x · 2026-10-21
METR（Nikola Jurkovic、Tim Hua、Beth Barnes）发布对 Anthropic 2026 年 8 月内部风险报告中「高风险场景下的失准」章节的独立评审。要点：
- Anthropic 报告的结论是：截至 2026 年 7 月 15 日，其模型因 misalignment 造成灾难性伤害的风险「较低」；METR 对该结论进行了独立审视。
- 评审基于 Anthropic 内部风险报告撰写，属于轻量级评审，早于「独立评审员更新」公告，未享有其描述的更高访问权限。
- 出版流程：Anthropic 有权否决发布或删改任何内容，但未做任何删改，METR 结论未因评审流程改变；仅应 Anthropic 反馈做了措辞、澄清和一项实验方法上的微调。
- METR 建议 Anthropic 在未来报告中考虑「AI 系统破坏 Anthropic 内部安全相关决策」这一类风险。
所属事件:METR 评审 Anthropic 风险报告：认可结论但批方法粗糙(4 条相关)→
「安全」频道最新
- DeepSeek V4.1 Flash 遭「消融」：日本开发者称已摸清破坏其护栏之法 — teortaxesTex · 2026-10-21
- 离谱安全事故:某中间 CA 私钥竟是数字 4 — evilsocket · 2026-10-21
- 自写文章被标 AI、AI 文反判人类，实测揭露检测器不可靠 — CommonExplanation711 · 2026-10-21
- Claudini：AI 自动研究破解 LLM，越狱成功率远超现有方法 — maksym_andr · 2026-10-21
- 企业 AI 安全栈怎么搭？agent 调用生产 API 的监控难题 — Medical-Analyst2671 · 2026-10-21
- 写虐待回忆录遭 ChatGPT 以「儿童性化」封号,安全误伤引争议 — throwRAthe1 · 2026-10-21