自动化预测系统估算:2030 年前 AI 引发大灾难概率仅 0.47%
emollick · x · 2026-09-12
Ethan Mollick 介绍了由多位顶级预测专家构建的自动化预测系统 AIRO（Automated AI Risk Outlook），用于估算 AI 灾难性风险。系统预测：到 2030 年由 AI 引发大规模灾难的概率为 0.47%，而同期任何原因导致灾难的概率为 1.1%。
该系统基于 Epoch AI 的能力指数（ECI）等基准追踪前沿模型能力，并按 6 个月、12 个月及 2028/2030/2050/2100 等多个时间窗口输出前瞻性事件预测。值得注意的是，系统刚更新了事件计数规则：只统计引出日期之后开始的事件，预测序列因此重新开始。
所属事件:AIRO 自动化预测系统上线，估算 2030 年前 AI 大灾难概率仅 0.47%(3 条相关)→
「漫话AGI」频道最新
- Domingos 反常识论:笨 AI 才不安全,越担心 AI 安全越该加速研究 — pmddomingos · 2026-09-12
- David Patterson：超级智能是末日论者的末日，如千年虫般虚惊 — davidpattersonx · 2026-09-12
- 当最亲密的五个「朋友」都是 AI，你会开始说 AI 腔吗 — ethanniser · 2026-09-12
- EMNLP 论文:LLM 模拟对话远比真人更「配合」,难复现冲突行为 — peizNLP · 2026-09-12
- 评论：大厂自建AI安全叙事存在结构性利益冲突 — AryHHAry · 2026-09-12
- 数据科学元老 McInnes 做客 Posit 播客 The Test Set — leland_mcinnes · 2026-09-12