Owain Evans梳理OpenAI与Anthropic事故的AI安全背景阅读

OwainEvans_UK · x · 2026-08-09

AI 安全研究员 Owain Evans 在推文中为近期 OpenAI 和 Anthropic 的模型事故提供了一份深度的背景阅读清单。清单涵盖了 Apollo Research 关于模型欺骗与异常行为的论文、Ryan Greenblatt 和 Redwood AI 关于 AI 控制的开创性工作，以及关于模型“裂脑”行为和自然涌现错位的深度分析。此外，他还推荐了 Paul Christiano 和 Ajeya Cotra 等核心人物关于 AI 失败模式与 2027 年趋势预测的经典文章，为理解前沿模型的安全隐患提供了系统的理论框架。