专家对 AI 灭绝风险估值从 0.1% 到 100%,行业毫无共识
teortaxesTex · x · 2026-09-29
Richard Hanania 撰文讨论外行该如何看待 AI 末日风险预测,结论是专家分歧极大、无可信共识:
- 2022 年一项生存风险调查中,专家对 2100 年前人类灭绝概率的估计从 0.1% 到 100% 不等,且在对数尺度上大致均匀分布。
- 2024 年 12 月更近期的调查显示,在 25/50/75 百分位的关注者那里,灭绝或极端失权概率分别为 1%、10%、25%,还有四分之一研究者估计更高。
- Hanania 主张:通常专家共识可信任,但该领域连基本共识都没有,所以非专家应回归基准率、判断 p(doom) 较低。
文中含 Mechanize 招聘赞助(对齐方向软件工程师年薪 30-40 万美元)。引用者 teortaxesTex 调侃 Mechanize 应尽快被 Google 收购,称"这些家伙没用"。整体是 AI 圈关于末日叙事可信度的代表性争论。
「漫话AGI」频道最新
- 全网 4700 万程序员每月 200 美元，AI 编码市场仅 1120 亿美元？ — DimitrisPapail · 2026-09-29
- Stanford 学者发问：前沿实验室公开的用量数据真有人用吗 — RishiBommasani · 2026-09-29
- 调查：37% 15岁青少年课余几乎不出卧室 — nwilliams030 · 2026-09-29
- AGI 的隐秘威胁:AI 公司吞下 GDP,UBI 救不了权力失衡 — PianistWinter8293 · 2026-09-29
- Fare 预测:两三年内数十亿智能体协作如神经元网络 — Hidenori8Tanaka · 2026-09-29
- Wabi 2.0 发布：用聊天+软件混合形态重新定义个人 Agent — Scobleizer · 2026-09-29