AIRO 上线:用前沿模型自动预测 AI 灾难性风险,效果媲美人类专家
soumitrashukla9 · x · 2026-09-12
Forecasting Research 团队发布 AIRO(Automated AI Risk Outlook),一个自动化灾难性风险预测仪表盘,持续追踪前沿模型对 AI 风险事件的预测。
核心要点:
- 团队判断:前沿模型的预测能力已接近优秀的人类预测者,且很快会超越人类
- 仪表盘覆盖多个时间窗口(6个月、12个月、2028/2030/2050/2100 年)的条件性预测,条件基于 Epoch AI 的 Capabilities Index(如 2024 年 5 月 GPT-4o 时 ECI 为 128.98)
- 每次elicitation 事件起算规则统一更新,所有数据可下载存档
项目将长期记录最强模型随时间给出的预测,作为 AI 风险的连续观测指标。
所属事件:AIRO 自动化预测系统上线，估算 AI 灾难风险(4 条相关)→
「安全」频道最新
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28
- Rust 与 Verus 或助 AI 漏洞挖掘聚焦搜索空间 — jd_pressman · 2026-10-28