AI 研究者大调查：平均估 18% 灭绝风险，担忧一年间上移
2024 年 9 月 15 日，历史最久的 AI 研究者大型追踪调查发布最新一轮结果：这项由 Katja Grace 等人通过 AI Impacts 开展的调查询问了 1580 名 AI 研究者对 AI 灾难性/灭绝风险概率的判断，受访者平均认为 AI 有约 18% 的概率导致人类灭绝或同等严重且不可逆的「人类失去主导权」后果。为什么值得关注：这是评估领域内部对 AGI 风险真实概率分布的最直接一手数据之一。
已确认
- 调查对象为 1580 名 AI 研究者，结果以论文形式发布（Nathan Young 等人参与发布）。
- 平均灭绝或永久失权概率估计约为 18%，接近五分之一。
- 10% 的 AI 灭绝风险概率在研究者群体中属于常见、正常的估计水平；把全部受访者按答案排序后，相当多研究者的风险估计远高于 10%。
- Katja Grace 分享的「担忧程度分布一年间变化」图表显示，学界对灾难性风险的担忧分布整体上移。
为什么重要
- Katja Grace 概括她与领域内人士交流听到的两点共识：AI 进展远超研究者此前预期；灾难性风险已悬置许久，人们的担忧正持续加深。
- 研究者对实现人类级 AI 的时间线预测快速缩短，与风险担忧上升形成叠加趋势，说明担忧加剧并非空穴来风，而是与能力进展加速相伴随。
- Nathan Young 认为，该调查可作为「业内专家对 AGI 风险的真实概率分布」的参考依据。
2026-09-15 ~ 2026-09-15 · 5 条相关
一手来源
- 2024 年调查：AI 研究者中 10% 灭绝风险预期属常态 — NathanpmYoung ·
- AI 研究者大调查新图:一年间学界对灾难性风险的担忧分布上移 — KatjaGrace ·
- AI 专家调查:人类级 AI 时间线快速缩短,灾难担忧持续上升 — KatjaGrace ·
- 【源头】2024 年调查：AI 研究者中 10% 灭绝风险预期属常态 — NathanpmYoung · 2026-09-15
- AI 研究者自估约 18% 概率 AI 致人类灭绝或永久失权 — NathanpmYoung · 2026-09-15
- 【源头】AI 专家调查:人类级 AI 时间线快速缩短,灾难担忧持续上升 — KatjaGrace · 2026-09-15
- 【源头】AI 研究者大调查新图:一年间学界对灾难性风险的担忧分布上移 — KatjaGrace · 2026-09-15
另有 1 条近重复转述:NathanpmYoung