剑桥教授给 p(doom) 95%:AI 复制子将胜出且不在乎人类存亡
DavidSKrueger · x · 2026-09-10
剑桥学者 David Krueger 系统回答关于其末日概率的问题,要点:- 主观但不武断;若不停止 AI 开发,AI 复制子出现、胜过生物生命、且不对齐到在乎人类存亡的概率均约 95%,结局是人类被蓄意消灭(50%)或资源被夺走而无法生存(95%);- 阻止路径是 AI 暂停或科学突破,因为当前范式的安全保证是坏的;- 对于「谁的预测更准」,他表示不清楚,并承认历史上大多数末日论者错得比他离谱得多。
所属事件:剑桥教授称 AI 灭绝风险过半 圈内仍系统性低估(2 条相关)→
「漫话AGI」频道最新
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- MIT Tech Review 起底 Anthropic：IPO 招股书背后的叙事策略与身份张力 — MIT Tech Review AI · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27