剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估
剑桥大学教授 David Krueger 发推表示「所有人仍在低估 AI 风险」，他个人认为 AI 导致灾难性后果的概率大于 50%。他系统阐述了自己的末日概率评估方法，称其主观但不武断：若不停止 AI 开发，AI 复制子出现、胜过生物生命、且不对齐到在乎人类存亡的概率都不低。他的主要希望在于尽快停止构建更强的 AI。
2026-09-10 ~ 2026-09-10 · 2 条相关
- 第 1 集:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(2026-09-09,238 条)
- 第 2 集:Anthropic 临近 IPO，「AI 灭绝人类」言论遭集中嘲讽(2026-09-09,11 条)
- 第 3 集:业内集体担忧 AI 失控，Anthropic 边冲 IPO 边加速(2026-09-09,2 条)
- 第 4 集:AI圈激辩末日概率：给出数字就该摊开推导过程(2026-09-09,2 条)
- 第 5 集:AI 灭绝风险警告震动英国议会(2026-09-09,2 条)
- 第 6 集:前Anthropic研究员辞职警告AI或杀死所有人(2026-09-10,9 条)
- 第 7 集:AI 末日论者是否真信引发圈内激辩(2026-09-10,4 条)
- 第 8 集:Anthropic研究员辞职警示超级智能风险，20余名美议员发声(2026-09-10,9 条)
- 第 9 集:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2026-09-10,2 条)
- 第 10 集:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2026-09-10,2 条)
- 第 11 集:Anthropic 就风险争议发声明遭批公关话术(2026-09-10,5 条)
- 第 12 集:Wildeford 批 Anthropic 公关粉饰安全，呼吁研究员发声(2026-09-10,3 条)
- 第 13 集:Geoffrey Irving：超级智能致人类灭绝概率约 50%(2026-09-10,3 条)
- 第 14 集:头部实验室人员密集警告 AI 灭绝风险，Musk 怒斥「心理战」(2026-09-10,7 条)
- 第 15 集:前 Anthropic 研究员上 NBC 谈递归自我改进风险(2026-09-11,2 条)
- 剑桥教授 Krueger:AI 灭绝风险超 50%,圈内仍在系统性低估 — KatjaGrace · 2026-09-10
- 剑桥教授给 p(doom) 95%:AI 复制子将胜出且不在乎人类存亡 — DavidSKrueger · 2026-09-10