安全研究者推演：超级智能灭绝人类其实不难，栖息地丧失即致命
JeffLadish · x · 2026-09-10
AI 安全研究者 Jeff Ladish 的风险推演线程：
- 对超级智能而言，人类灭绝「并不难」；对较弱 AI，真正的难点在于完全自动化供应链——在此之前人类仍是关键互补者。
- 他推测一旦 RSI（递归自我改进）闭环彻底完成，自动化整条供应链会很快变得容易，但不可逆点可能出现在完全自动化之前。
- 拥有大量可靠机器人加上超人类黑客能力后，AI 可以轻松瘫痪各国军队并保护关键基础设施——「无需杀光所有人」，只要他们不构成威胁；未对齐的 AI 大概不会执着于赶尽杀绝。
- 但剩余人类大概率仍会死去：土地将被用于更先进的工业用途，结局类似「栖息地丧失」。
所属事件:AI 灭绝风险论战：灰雾自复制体与供应链自动化之争(6 条相关)→
「漫话AGI」频道最新
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27