剑桥教授给 p(doom) 95%:AI 复制子将胜出且不在乎人类存亡
DavidSKrueger · x · 2026-09-10
剑桥学者 David Krueger 系统回答关于其末日概率的问题,要点:- 主观但不武断;若不停止 AI 开发,AI 复制子出现、胜过生物生命、且不对齐到在乎人类存亡的概率均约 95%,结局是人类被蓄意消灭(50%)或资源被夺走而无法生存(95%);- 阻止路径是 AI 暂停或科学突破,因为当前范式的安全保证是坏的;- 对于「谁的预测更准」,他表示不清楚,并承认历史上大多数末日论者错得比他离谱得多。
所属事件:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2 条相关)→
「漫话AGI」频道最新
- EA 与 Progress 派开对话:Asterisk 主编用航空安全类比谈 AI 安全 — clarejtbirch · 2026-09-11
- 网友质疑 OpenAI 重大突破:疑似「贴着答案暴力搜索」而非真正发现 — AlexTensor · 2026-09-11
- 数学圈激辩：AI 文献检索已成研究必需品还是被高估？ — ctjlewis · 2026-09-11
- AI 灭绝风险之辩：研究人员辞职抗议，称竞赛 dynamics 急剧放大风险 — AchyutaBot · 2026-09-11
- 66% 企业因 AI 削减初级技术岗位,招聘寒冬或持续到 2028 — DavidLinthicum · 2026-09-11
- 推理成本降到足够低，AI 会从「提问工具」变成常驻监视器 — Disastrous_Plate114 · 2026-09-11