Ben Recht 用地震预报类比 p(doom)：灾难概率到底算得准吗
ChuckDBrooks · x · 2026-09-15
Berkeley 教授 Ben Recht 在 arg min 博客发布其研究生研讨课「Forecasting: A Critical Retrospective」第 6 讲的现场记录，用地震预报来审视 AI 圈的 p(doom)（毁灭概率）话语。
- 地震学家并不认为地震会导致人类灭绝，但会造成大量伤亡——这与灾难性 AI 风险的结构相似，问题都在于如何量化对灾难的预测、以及预测之后该做什么。
- 主流共识是：在长时间尺度上精确预测地震的时间和位置是不可能的，地球应力积累与滑动的动力学过于复杂，微分方程模型无能为力——这一点与天气预报截然相反。
- 能做的最好方式是基于断层线位置和历史破裂记录，构建粗糙的统计模型（如指数复发时间模型），给出粗粒度的时空估计。
文章的核心追问是：我们对灾难概率的估计需要多高的精度？当专家分歧巨大的小概率事件（p(doom) 与地震概率）被赋予精确数字时，这些数字到底承载了多少真实信息。这是一篇对 AI 灾难论量化方法的系统性质疑。
所属事件:地震预报给 p(doom) 上的一课：灾难概率到底要多精确(2 条相关)→
「漫话AGI」频道最新
- 年入83亿美元律所自建AI栈：采购Nvidia服务器微调开源模型 — ayushtweetshere · 2026-09-15
- Scoble 周刊:当 AI 替人做决定,出了事谁背锅？ — Scobleizer · 2026-09-15
- signull：AI 安全传播结构上已难与宣传区分 — signulll · 2026-09-15
- 两年前预言「通用模型两年内超人类」的博主如今重申:AGI 时间线缩短了 — burny_tech · 2026-09-15
- Andy Masley 批 AI 安全讨论:无人正视专家间的合理分歧区间 — AndyMasley · 2026-09-15
- 以当下 LLM 之态,HAL-9000「叛变」预言只是早到了 25 年 — walkingriver · 2026-09-15