AI 安全研究者 Irving：超级智能全灭概率约 50%

AI 安全研究者 Geoffrey Irving 公开表示，他认为超级智能导致人类全部死亡的概率约为 50%，并强调风险主要来自未来几年到十年内的行动；他不指望在真正「挺过去或没挺过去」之前，这一估计会收敛到 10% 以下或 90% 以上，意即人类必须「在不确定中行动」。

已确认

• Irving 曾在 Google DeepMind、OpenAI、Google Brain 工作，并曾任前英国 AI 安全研究所（AI Security Institute）首席科学家；部分报道亦以 Anthropic 研究员身份称呼他。他在 X 上亲自发布了这一估计。
• 他解释取 50% 的理由：即使思考多年，各类模型不确定性依然很大，几年前他给出的区间是 10–90%，且自认在该区间内也无法校准，因此认为最诚实的做法是直接取均值。
• 他判断风险窗口主要在未来几年到十年内，且估计不会在结局到来前收敛出区间。

为什么重要

• 这是知名一线 AI 安全研究者对「全灭级风险」给出的高数值点估计，来自长期从业者的显式概率表态，而非泛泛担忧。
• 帖子发布后引发争论，有网友怒斥其估算形同欺诈，显示出高 p(doom) 表态在社区内的争议性。
• Irving 强调估计不会在结局前收敛，实质是在主张「不确定性本身」应成为当前 AI 安全决策的输入，这一立场对政策与研发优先级都有直接影响。

2026-09-10 ~ 2026-09-11 · 6 条相关

事件全程(共 17 集)→

• 第 1 集:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(2026-09-09,238 条)
• 第 2 集:前 DeepMind 研究员自曝离职，称同仁真信 AI 灭世风险(2026-09-09,2 条)
• 第 3 集:Anthropic 临近 IPO 的「灭绝风险」言论遭集体嘲讽(2026-09-09,11 条)
• 第 4 集:业内集体担忧 AI 失控，Anthropic 边冲 IPO 边加速(2026-09-09,2 条)
• 第 5 集:AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程(2026-09-09,3 条)
• 第 6 集:AI 灭绝风险警告震动英国议会(2026-09-09,2 条)
• 第 7 集:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(2026-09-10,32 条)
• 第 8 集:AI 末日论者是否真信引发圈内激辩(2026-09-10,4 条)
• 第 9 集:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2026-09-10,2 条)
• 第 10 集:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2026-09-10,2 条)
• 第 11 集:Anthropic 风险声明被批企业话术，安全形象遭质疑(2026-09-10,5 条)
• 第 12 集:Wildeford 批 Anthropic 公关粉饰安全，呼吁研究员发声(2026-09-10,3 条)
• 第 13 集:Anthropic 前员工辞职帖引爆监管争议，被疑协调公关(2026-09-10,16 条)
• 第 14 集:AI 安全研究者 Irving：超级智能全灭概率约 50%(2026-09-10,6 条)
• 第 15 集:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(2026-09-10,23 条)
• 第 16 集:前Anthropic研究员上NBC警告AI递归自我改进风险(2026-09-11,3 条)
• 第 17 集:前DeepMind研究员自曝年薪超50万美元，离职发声代价巨大(2026-09-12,5 条)

• 【源头】AI 安全研究者:超级智能致人类灭绝概率约 50%,关键在未来十年 — geoffreyirving · 2026-09-10
• 【源头】DeepMind 研究员：超级智能致全灭概率约 50% — geoffreyirving · 2026-09-10
• Anthropic 研究员坚持「末日 50%」估算，遭网友怒斥欺诈 — TinfoilTricorn · 2026-09-11
• 研究者自估「因超级智能全灭」概率约 50% 引发争论 — TinfoilTricorn · 2026-09-11
• 安全研究员称超智能有约 50% 灭绝人类概率，未来几年是关键窗口 — inductionheads · 2026-09-11

另有 1 条近重复转述:zetalyrae