地震预报给 p(doom) 上的一课：灾难概率到底要多精确

beenwrekt · x · 2026-09-15

伯克利教授 Ben Recht 在其 arg min 博客发表文章，用地震预测类比 AI 灭绝风险 p(doom) 的量化难题。他借研究生研讨课「预测：批判性回顾」的讲稿指出：主流共识认为精确预测地震的时间与位置在原理上不可行，地壳应力积累与断裂的动力系统远比微分方程模型能刻画的更复杂，与天气预报有本质区别。可行的做法是基于断层线历史破裂记录做粗粒度的时空统计估计，例如最朴素的指数复发时间模型。作者的潜台词是：连数据相对充足、机制相对清楚的地震都无法给出精细概率，AI 灭绝概率这种更模糊的对象，对其数值精度应保持警惕。