安全研究员称超智能有约 50% 灭绝人类概率，未来几年是关键窗口
inductionheads · x · 2026-09-11
AI 安全研究员 Geoffrey Irving 表示，他认为超级智能导致人类灭绝的概率约为 50%，且主要取决于未来几年到十年内的行动；他不预期在结局到来前这一估计会收敛到 10% 以下或 90% 以上。
他强调：人类将不得不「在不确定性中行动」。另有转发者 NathanJRobinson 质疑这一末日论缺乏机制解释——只说「AI 会非常聪明、自己想出办法」，却讲不清灭绝如何发生。
所属事件:AI 安全研究者 Irving：超级智能全灭概率约 50%(6 条相关)→
「漫话AGI」频道最新
- 「代码从来不是护城河」:AI 时代软件壁垒之争再起 — kylegawley · 2026-10-28
- 5-MeO-DMT 鼻喷 2b 期结果:193 人试验,8mg 组缓解率 26% — prasanna_says · 2026-10-28
- 为何先拿眼睛验证衰老逆转:简单眼检即可量化 — rand_longevity · 2026-10-28
- tszzl:当年读 Scott Alexander/Gwern 的人已看出早期 AGI 苗头 — tszzl · 2026-10-28
- Shkreli 质疑 Anthropic 治病论：AGI 算不算「治愈」引激辩 — ChrisGPT · 2026-10-28
- 人人都想得出'像 C 一样快、像 Lisp 一样动态'的语言，直到动手 — math_rachel · 2026-10-28