剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估
剑桥大学教授 David Krueger 发推表示「所有人仍在低估 AI 风险」，他个人认为 AI 导致灾难性后果的概率大于 50%。他系统阐述了自己的末日概率评估方法，称其主观但不武断：若不停止 AI 开发，AI 复制子出现、胜过生物生命、且不对齐到在乎人类存亡的概率都不低。他的主要希望在于尽快停止构建更强的 AI。
2026-09-10 ~ 2026-09-10 · 2 条相关
- 第 1 集:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(2026-09-09,238 条)
- 第 2 集:前 DeepMind 研究员自曝离职，称同仁真信 AI 灭世风险(2026-09-09,2 条)
- 第 3 集:Anthropic 临近 IPO 的「灭绝风险」言论遭集体嘲讽(2026-09-09,11 条)
- 第 4 集:业内集体担忧 AI 失控，Anthropic 边冲 IPO 边加速(2026-09-09,2 条)
- 第 5 集:AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程(2026-09-09,3 条)
- 第 6 集:AI 灭绝风险警告震动英国议会(2026-09-09,2 条)
- 第 7 集:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(2026-09-10,32 条)
- 第 8 集:AI 末日论者是否真信引发圈内激辩(2026-09-10,4 条)
- 第 9 集:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2026-09-10,2 条)
- 第 10 集:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2026-09-10,2 条)
- 第 11 集:Anthropic 风险声明被批企业话术，安全形象遭质疑(2026-09-10,5 条)
- 第 12 集:Wildeford 批 Anthropic 公关粉饰安全，呼吁研究员发声(2026-09-10,3 条)
- 第 13 集:Anthropic 前员工辞职帖引爆监管争议，被疑协调公关(2026-09-10,16 条)
- 第 14 集:AI 安全研究者 Irving：超级智能全灭概率约 50%(2026-09-10,6 条)
- 第 15 集:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(2026-09-10,23 条)
- 第 16 集:前Anthropic研究员上NBC警告AI递归自我改进风险(2026-09-11,3 条)
- 第 17 集:前DeepMind研究员自曝年薪超50万美元，离职发声代价巨大(2026-09-12,5 条)
- 剑桥教授 Krueger:AI 灭绝风险超 50%,圈内仍在系统性低估 — KatjaGrace · 2026-09-10
- 剑桥教授给 p(doom) 95%:AI 复制子将胜出且不在乎人类存亡 — DavidSKrueger · 2026-09-10