专题 · FULL STORY

AI灭绝风险之争：从媒体热炒到调查激辩

Melanie Mitchell 先批媒体热炒「AI 灭绝风险超 10%」旧论，随后 2024 年大规模 AI 研究者调查发布，给出约 18% 的自估均值，相关数据随即引发学者激烈争论，事件持续发酵。

2026-09-10 ~ 2026-09-15 · 3 集 · 18 条

第 1 集 · Melanie Mitchell 批媒体热炒「AI 灭绝风险超 10%」旧论(2026-09-10,6 条)

9 月 10—11 日，Santa Fe Institute 研究教授 Melanie Mitchell 连续发帖，质疑主流媒体对「AI 导致人类灭绝风险超过 10%」的大篇幅报道，认为这是既不新鲜、也没有新证据支撑的断言。争论随后在 AI 社区扩散，Yann LeCun 也以轻松互动的方式卷入。

已确认

  • Mitchell 明确质疑 NYT、Vox、纽约客等媒体为何把「人类灭绝风险大于 10%」当作值得大篇幅报道的新颖观点，强调该说法没有任何支持它的新证据，本质是无证据的断言。
  • 她核查指出，「2022 年调查中近半数 AI 研究者认为 AI 有 ≥10% 概率导致人类灭绝」的说法源自 AI Impacts 组织的调查，媒体反复引用但并无新证据加持。
  • Mitchell 调侃 LeCun「难道我们又得把那场辩论重来一遍？」，LeCun 回复「恐怕是的 🙄」，暗示这一老话题的论战可能重启。
  • 围绕该风险预估，AIandDesign 与 Twelvisten 展开争论：Twelvisten 指出对方混淆了概率与频率——给未来事件（如飓风袭击城市）赋 10% 概率，并不需要存在 10 个物理结局。

尚未确认

  • 该「10% 灭绝风险」本身的合理性仍无定论，双方争论聚焦于这是主观概率估计而非可验证的数据。

为什么重要

  • 此事反映了 AI 风险传播中的证据标准问题：媒体将一份 2022 年调查中的主观概率估计当作新闻反复炒作，学界呼吁区分个人观点与实证依据。
  • Mitchell 的质疑代表了对 AI 灭绝论调持怀疑态度的学界声音，LeCun 的呼应显示这一阵营的资深研究者再度站台，与渲染风险的叙事形成对照，有助于公众更冷静地评估相关主张。

第 2 集 · 1580名AI研究者调查：灭绝风险自估均值约18%(2026-09-15,10 条)

2024 年 9 月 15 日，历史最久、规模最大的 AI 研究者大型追踪调查发布最新一轮结果：这项由独立研究者 Katja Grace 等人自 2016 年起开展的同行评审调查，询问了 1580 名在顶级机器学习与 AI 会议发表论文的研究者对 AI 灾难性/灭绝风险概率的判断。受访者平均认为 AI 有约 18% 的概率导致人类灭绝或同等严重且不可逆的「人类失去主导权」后果，接近五分之一。

已确认

  • 调查对象为 1580 名 AI 研究者，结果以论文形式发布（Nathan Young 等人参与发布，David Krueger 亦在传播中引用）。
  • 平均灭绝或永久失权概率估计约为 18%；多数受访者的典型估计约为 10%，较上一轮有所上调，且 10% 的灭绝风险概率在研究者群体中属于常见、正常的估计水平；把全部受访者按答案排序后，相当多研究者的风险估计远高于 10%。
  • Katja Grace 分享的「担忧程度分布一年间变化」图表显示，学界对灾难性风险的担忧分布整体上移。
  • 调查数据还显示，亚洲研究者的风险担忧高于西方研究者，与「中国会抢跑、不会减速」的常见预期相悖；Katja Grace 由此质疑：如果美国为避免人类灭绝风险而放慢，为何中国的调查数据并不支持这种不对称假设。
  • Nathan Young 借共同作者 Katja 的 FAQ 提出一个方法论争议：用百分比来谈论 AI 风险是否是有用的表达方式，涉及专家概率表述的有效性问题。

为什么重要

  • Katja Grace 概括她与领域内人士交流听到的两点共识：AI 进展远超研究者此前预期；灾难性风险已悬置许久，人们的担忧正持续加深。
  • 研究者对实现人类级 AI 的时间线预测快速缩短，与风险担忧上升形成叠加趋势，说明担忧加剧并非空穴来风，而是与能力进展加速相伴随。
  • Nathan Young 认为，该调查可作为「业内专家对 AGI 风险的真实概率分布」的参考依据，是评估领域内部对 AGI 风险真实概率分布的最直接一手数据之一。

第 3 集 · AI 灭绝风险调查数据引发学者激辩(2026-09-15,2 条)

「一半 AI 研究者认为 AI 灭绝风险至少 10%」这一广为流传的说法再度遭到质疑。NathanpmYoung 与 Melanie Mitchell 就此展开争论，Mitchell 曾撰文反驳该说法。与此同时，AI 安全研究者 gleech 在与多位知名安全学者讨论后修正了自己的引用数字：从「58% 受访者给灭绝风险打分不低于 5」更正为 81% 属于他所称的「doomer」阵营。