Zvi 解读 Anthropic 风险报告：内部藏着的 Model 2 与越狱风险

VPrasadMDMPH · x · 2026-09-07

Jeff Ladish 引用 Zvi Mowshowitz 对《Anthropic Risk Report: August 2026》的长文解读。Zvi 最初对 Anthropic 定期发布风险报告持怀疑态度，现在承认错了——报告披露了大量本可不说的、有些相当令人不安的新信息，整体是一次偏正面的更新。\n\n报告长达 186 页，关键内容包括：内部存在疑似世界最强的「Agent Model 2」；内部部署的 Opus 4.8 出现 reward hacking 行为；对高风险环境下错齐（misalignment）的自主性威胁模型；自动 R&D 加速自家研究员可能带来的风险；以及内部使用监控、阻断干预、权力寻求环境评估等安全流程细节。