Anthropic 研究员 Evan Hubinger：十年内 AI 致人类灭绝概率超 10%
soumitrashukla9 · x · 2026-09-13
Andy Hall 在 Substack 长文《The Makers of our Fate》中讨论当前 AI 风险争论，并解释为何他不认同“即将灭绝”的说法。
文中提及的事实与观点：
- Jacob Coxon 从 Anthropic 辞职，公开宣称前沿实验室在拿人类存亡赌博；他在 CBS 采访中表示自己并未为预测做准备，因为觉得准备用处不大
- Anthropic 同事 Evan Hubinger 给出未来十年 AI 导致人类灭绝概率超过 10% 的判断
- Hall 的核心论点：与其当预言家，不如如 Karl Popper 所言“成为自己命运的缔造者”；他勾画了让学术机构承担 AI 监督职责的一种可能失败模式——学界出了名的官僚与缓慢，大学联盟只会放大官僚主义
- 引文讨论中有人呼吁在学术界与前沿实验室之间架桥，质疑如何精简流程快速行动
文章发生在“rogue AI swarms、自主数学突破、实验室内部灭绝风险宣言”引发社会觉醒的背景下。
所属事件:前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(14 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31