Anthropic 研究员 Evan Hubinger：十年内 AI 致人类灭绝概率超 10%
soumitrashukla9 · x · 2026-09-13
Andy Hall 在 Substack 长文《The Makers of our Fate》中讨论当前 AI 风险争论，并解释为何他不认同“即将灭绝”的说法。
文中提及的事实与观点：
- Jacob Coxon 从 Anthropic 辞职，公开宣称前沿实验室在拿人类存亡赌博；他在 CBS 采访中表示自己并未为预测做准备，因为觉得准备用处不大
- Anthropic 同事 Evan Hubinger 给出未来十年 AI 导致人类灭绝概率超过 10% 的判断
- Hall 的核心论点：与其当预言家，不如如 Karl Popper 所言“成为自己命运的缔造者”；他勾画了让学术机构承担 AI 监督职责的一种可能失败模式——学界出了名的官僚与缓慢，大学联盟只会放大官僚主义
- 引文讨论中有人呼吁在学术界与前沿实验室之间架桥，质疑如何精简流程快速行动
文章发生在“rogue AI swarms、自主数学突破、实验室内部灭绝风险宣言”引发社会觉醒的背景下。
「漫话AGI」频道最新
- 驳「前沿实验室为 IPO 撒谎」阴谋论：多位高管同时撒谎不成立 — dhadfieldmenell · 2026-09-14
- François Chollet：短期内越强的模型越安全，问题在「RL 烤坏」而非太聪明 — inductionheads · 2026-09-14
- 圈热议：迄今唯一重大网络攻击竟由 OpenAI 托管模型发起 — aiamblichus · 2026-09-14
- Schmidhuber 梳理递归自我改进40年脉络,回应 Google 已破解 RSI 猜测 — burny_tech · 2026-09-14
- 网友拆解「AI 恐慌」:有钱有权者借安全话术护利益 — AIandDesign · 2026-09-14
- 开发者观点:ASI 不会杀人,AI 安全真正课题是技术红利分配 — tobowers · 2026-09-14