灾难风险建模者:海啸数据启示录——别用历史频率低估 AI 风险
davidmanheim · x · 2026-09-16
资深灾难风险建模者 David Manheim 在与网友讨论中,以海啸风险为类比谈 AI 灾难性风险的预测问题。
要点:
- 海啸有真实致死数据,可做出可证伪的长期预测,例如"2026-2035 十年间全球海啸累计死亡将低于 1 万人"(前提是预警系统持续运转);
- 但他强调东北(Tohoku)大海啸正说明:仅依赖历史数据而非机理模型,常常产生误导——福岛核电站正是按历史频率设防而被超出;
- 他引用自己 2018 年批评疫情风险"过度自信估计"的论文,指出同样的方法论错误在灾难风险评估中反复出现;
- 在后续回复中,他把预测前提"太平洋和印度洋预警系统在重大俯冲带地震中不发生系统性失效"与其论文中让他在 COVID 应对失败后仍感不安的一句话相类比。
核心论点:对低频高损风险(包括失控 AI),历史基率不足以支撑安全结论。
所属事件:灾难建模者借海啸类比谈 AI 风险预测(2 条相关)→
「漫话AGI」频道最新
- 扎克伯格称追责已够，作者晒 Section 230 与 170 亿和解讽其双标 — jeremyakahn · 2026-09-16
- 创业者抨击 AI 末日论：把才华浪费在想象的问题上 — Dan_Jeffries1 · 2026-09-16
- DeepMind前研究员在卫报发文：放缓一两年救不了AI失控风险 — nordicinst · 2026-09-16
- 银行航空都有监管+责任双重约束，AI 为何只靠追责？ — jeremyakahn · 2026-09-16
- LeCun 转发回击 AI 末日论：历史 Expert 悲观预言屡屡落空 — ylecun · 2026-09-16
- 自称上市公司运营总监：公司零招聘计划，白领岗位将大规模消失 — ChrisGPT · 2026-09-16