AI 安全研究者 davidad 量化未来数年 AI 风险预测
9 月 5 日，AI 安全研究者 davidad 在 X 上应网友 RazRazcle 追问，给出了对未来数年 AI 风险的一组量化预测，因与常见灾难叙事的显著差异而引发关注。
已确认
- davidad 预测 2027-2029 年出现两起超 1000 人死亡的大规模伤亡事件的概率较大，并有数起损失超 10 亿美元的高调事件。
- 他预计全球网络犯罪损失将从约 6000 亿美元增至约 9000 亿美元（增幅约 50%）。
- 他认为未来三年内 AI 导致全球性灾难的概率低于 2%，并不认为无提示的 misalignment（模型自发失准）会导致大规模伤亡，该路径概率低于 7%。
- 在其世界模型下，本世纪有 10-30% 概率发生一场超 10 亿人死亡的全球灾难；他估计从「全知历史学家」视角看，若前沿 AI 开发在 Claude 3 Opus 之后停止，该灾难本可避免。另有约 5% 概率人类全部灭亡。
尚未确认
- 这些均为 davidad 个人的主观概率估计，依托其自述的「世界模型」，非模型推演或实证研究结论。
为什么重要
- davidad 表示「乐观」取决于视角：2022 年他曾认为人类约 70% 概率全部灭亡，且他尊敬的许多同行仍持类似极端立场，因此他当前 5% 灭亡概率的判断在 AI 安全研究圈内已属相当乐观的一端。这组数字勾勒出「近期小概率灾难、长期不可忽视风险」的分层图景，同时以「在 Claude 3 Opus 后停下可避免灾难」的反事实估计，把风险与前沿模型开发的决策直接挂钩。
2026-09-05 ~ 2026-09-05 · 7 条相关
一手来源
- AI 安全研究者 davidad 预测：未来三年将现两起千人死亡事件 — davidad ·
- davidad：三年内 AI 引发全球灾难概率不足 2% — davidad ·
- davidad 估算：若在 Claude 3 Opus 后停下，可避免 10-30% 本世纪灾难 — RazRazcle ·
- 网友追问 davidad：你对未来几年 AI 风险的具体预期是什么 — RazRazcle · 2026-09-05
- davidad 线程复述：本世纪 10-30% 概率的可避免全球灾难 — davidad · 2026-09-05
- 【源头】davidad 估算：若在 Claude 3 Opus 后停下，可避免 10-30% 本世纪灾难 — RazRazcle · 2026-09-05
- davidad：相比 2022 年 70% 灭亡率判断，现在的预测已算乐观 — davidad · 2026-09-05
- davidad 补充预测：网络犯罪损失三年内将增至约 9000 亿美元 — davidad · 2026-09-05
- 【源头】AI 安全研究者 davidad 预测：未来三年将现两起千人死亡事件 — davidad · 2026-09-05
- 【源头】davidad：三年内 AI 引发全球灾难概率不足 2% — davidad · 2026-09-05