AI研究者大调查:灭绝风险预期约18%引热议

2024 年 9 月 15 日，历史最久、规模最大的 AI 研究者大型追踪调查发布最新一轮结果：这项由独立研究者 Katja Grace 等人自 2016 年起开展的同行评审调查，询问了 1580 名在顶级机器学习与 AI 会议发表论文的研究者对 AI 灾难性/灭绝风险概率的判断。受访者平均认为 AI 有约 18% 的概率导致人类灭绝或同等严重且不可逆的「人类失去主导权」后果，接近五分之一。该数字引发围绕调查方法与媒体转述的持续争论，本身已成为 AI 风险公共讨论的核心议题。

已确认

• 调查结果以论文形式发布（Nathan Young 等人参与），调查对象为 1580 名 AI 研究者；David Krueger、Nathan Young 等均在传播中引用。
• 平均灭绝或永久失权概率估计约为 18%；多数受访者的典型/中位估计约为 10%，较上一轮有所上调，10% 的灭绝风险概率在研究者群体中属常见、正常的估计水平；按答案排序后，相当多研究者的风险估计远高于 10%。gleech 补充引用另一机器学习研究者调查：灭绝风险中位数估计为 10%，81% 的受访者认为该风险大于 1%；gleech 在与多位知名安全学者的讨论中还修正了自己此前引用的数字，从「58% 的受访者给灭绝风险打分不低于 5%」更正为 81% 属于他所说的「doomer」范围，反映出圈内对风险概率分布表述的持续讨论。
• gleech 列举了从 1951 年图灵至今横跨 70 余年的 AI 风险警告者名单（含 Norbert Wiener、Irving Good、Vernor Vinge、Bill Joy、Stephen Hawking 等），以调查数据佐证这一风险警告谱系。
• Katja Grace 分享的「担忧程度分布一年间变化」图表显示，学界对灾难性风险的担忧分布整体上移；同时研究者对实现人类级 AI 的时间线预测快速缩短，与担忧上升形成叠加趋势。
• 调查数据显示亚洲研究者的风险担忧高于西方研究者，与「中国会抢跑、不会减速」的常见预期相悖；Katja Grace 由此质疑：如果美国为避免人类灭绝风险而放慢，为何中国的调查数据并不支持这种不对称假设。
• 同份调查还有一面常被忽略：DrTechlash 补充指出，受访者为「高级机器智能（HLMI）总体影响是好的」平均给出 52% 的概率，坏结局仅占 28%——媒体聚焦的「灭绝概率」并非受访者的整体判断基调。
• gleech 9 月 17 日的 Humans on AI 周报再次提及中位生存风险估计升至 10%，同期还转述 SemiAnalysis 数据称前沿训练算力中预训练占比已降至 11%（2025 年初为 95%），后训练成主导，为讨论提供了行业背景。

尚未确认

• DrTechlash 对调查方法的批评：受访者被要求给「人类灭绝或同样永久且严重的人类失能」这类措辞含糊的选项打一个概率数字，且有效样本仅约 8%，这些方法论问题使具体数字的解读需谨慎。
• NathanpmYoung 与 Melanie Mitchell 就「一半 AI 研究者认为灭绝风险至少 10%」这一广为流传的说法展开争论；Mitchell 曾撰文 fact-check，指出 NYT、Vox、纽约客等媒体的转述存在问题。该说法是否成立仍在激辩中。
• Nathan Young 借共同作者 Katja 的 FAQ 提出方法论争议：用百分比谈论 AI 风险是否是有用的表达方式，涉及专家概率表述的有效性。

为什么重要

• Katja Grace 概括她与领域内人士交流听到的两点共识：AI 进展远超研究者此前预期；灾难性风险已悬置许久，人们的担忧正持续加深。
• Nathan Young 认为，该调查可作为「业内专家对 AGI 风险的真实概率分布」的最直接一手参考数据之一，人类级 AI 时间线缩短与风险担忧上升的叠加趋势尤其值得关注。
• 围绕方法与媒体转述的争议表明：如何准确呈现专家风险判断，本身已成为 AI 风险公共讨论中的关键问题。

2026-09-15 ~ 2026-09-17 · 17 条相关

• 【源头】2024 年调查：AI 研究者中 10% 灭绝风险预期属常态 — NathanpmYoung · 2026-09-15
• AI 研究者自估约 18% 概率 AI 致人类灭绝或永久失权 — NathanpmYoung · 2026-09-15
• 她运营着规模最大、历史最久的 AI 研究者同行评审调查 — KatjaGrace · 2026-09-15
• 运营最大 AI 研究者调查的独立研究者:专家观点十年演变 — KatjaGrace · 2026-09-15
• AI 专家调查:人类级 AI 时间线快速缩短,灾难担忧持续上升 — KatjaGrace · 2026-09-15
• 【源头】AI 研究者大调查新图:一年间学界对灾难性风险的担忧分布上移 — KatjaGrace · 2026-09-15
• 调查显示亚洲 AI 研究者对风险的担忧反而高于西方同行 — KatjaGrace · 2026-09-15
• AI 研究者大型调查:多数人认为 AI 有 10% 概率毁灭人类 — DavidSKrueger · 2026-09-15
• 「半数 AI 研究者认为灭绝风险 10%」说法再遭质疑与激辩 — NathanpmYoung · 2026-09-15
• 专家调查：AI 灭绝风险估计升至 10%，百分比表述引辩论 — NathanpmYoung · 2026-09-15
• 调查修正：AI 研究者中 81% 认为灭绝风险概率不低 — gleech · 2026-09-15
• 【源头】AI Impacts 灭绝风险调查再引质疑：措辞模糊、有效样本仅 8% — DrTechlash · 2026-09-15
• 同份调查另一面：受访者平均 52% 认为 HLMI 总体影响偏正面 — DrTechlash · 2026-09-15
• 从图灵到 Hinton:一串横跨 70 余年的 AI 风险警告者名单 — gleech · 2026-09-15
• 调查:ML 研究员对 AI 灭绝风险中位数估计为 10% — gleech · 2026-09-15
• AI 研究者中位生存风险估计升至 10%,预训练算力占比仅剩 11% — gleech · 2026-09-17

另有 1 条近重复转述:NathanpmYoung