回应「AI 如何灭绝人类」质疑：研究者列出五份必读情景推演
DavidSKrueger · x · 2026-09-12
在 Jacob Coxon 因灭绝警告辞职后，不少人质疑 AI 安全研究者拿不出「AI 如何可能杀死所有人」的现实答案。研究者 ohabryka 整理了他所知的五个最佳情景：
- AI 2027（Daniel Kokotajlo、Scott Alexander 等）：预测超级智能 AI 未来十年影响将超过工业革命，提供「减速」与「竞赛」两种结局，以趋势外推和专家反馈为基础，作者称 2027 是当时的中位可能年份而非确定时间。
- Paul Christiano 情景（前 AISI 安全负责人，2019）。
- Gwern Branwen 情景（知名独立 AI 研究者，2022）。
- Holden Karnofsky 的高层解释（Anthropic RSP 负责人，2022）。
- Joshua Clymer 的情景。
发帖人 David Krueger（剑桥 AI 安全学者）推荐给所有追问这个问题的人，表示不背书所有情景但值得一看。AI 2027 团队还计划为最佳替代情景设立奖金，鼓励公开辩论。
所属事件:AI 末日论者讲不出具体剧本？安全圈论战与传播反思(7 条相关)→
「漫话AGI」频道最新
- 博主批评安全圈夸大「AI 越狱」:应按安全事故而非夺权意图定性 — nptacek · 2026-09-12
- 长文剖析：AI 末日论为何像神学护教一样"无法被驳倒" — panickssery · 2026-09-12
- 五天三个安全信号：OpenAI/Anthropic 员工出走抨击超智能竞赛 — PeterDiamandis · 2026-09-12
- Terence Tao 等 25 位菲尔兹奖得主联名警告 AI 正在摧毁数学 — ns123abc · 2026-09-12
- signull:AI 正让数学家体验信念体系崩塌之感 — signulll · 2026-09-12
- P(doom) 预测市场为何不同于一般生存风险押注 — j_foerst · 2026-09-12