深度起底 p(doom):AI 末日概率从哪来,值不值得信
anderssandberg · x · 2026-10-27
groundlevel-ai.com 发表长文,追溯「AI 末日概率 p(doom)」这一说法的来源与可信度,Anders Sandberg 转发并推荐(他本人也被文中引用)。
文中关键信息:
- AI Futures Project 联合创始人 Eli Lifland 近期给出惊人估计:若 AI 公司不减速,「AI 接管」概率约 67%;泛超人类 AI 在 2027 年底前出现概率 10-15%,2030 年底前约 50%;即便接管发生,人类灭绝概率也有 40%。
- Anthropic 研究员 Evan Hubinger 称自己认为十年内 AI 灭绝人类概率 >10%;前 DeepMind 研究员 Geoffrey Irving 在英国下议院听证时坚持约 50% 的个人估计。
- 文章指出这些数字背后是理性主义者和预测者群体数十年的亚文化,如今获得数百万美元慈善资金支持,早在 2023 年 Kevin Roose 就在纽约时报写过 p(doom) 已成硅谷的文化执念。
- 文章讨论这类数字对普通人或记者沟通是否有用,以及其方法论根基是否可靠。
所属事件:媒体深挖 p(doom)：AI 末日概率从何而来(3 条相关)→
「漫话AGI」频道最新
- OpenAI 宣布模型产出 Yang-Mills 存在性证明并完成 Lean 形式化 — exophades · 2026-10-27
- gdb 宣布 AI 辅助拿下数学、复杂性理论与量子场论三项科学发现 — gdb · 2026-10-27
- 学术圈观察:AI 一边制造论文垃圾,一边清理人类遗留的学术垃圾 — _akpiper · 2026-10-27
- EMNLP 学者忧:全是 LLM 打磨的演讲,正在抹平个人表达的味道 — lucy3_li · 2026-10-27
- Paul Graham：不读写将像吸烟一样普遍，代价却更隐蔽 — IanArawjo · 2026-10-27
- 讨论全细胞模拟热：2012 年论文显示多数过程仍无可测量标度 — niloofar_mire · 2026-10-27