安全研究者推演：超级智能灭绝人类其实不难，栖息地丧失即致命
JeffLadish · x · 2026-09-10
AI 安全研究者 Jeff Ladish 的风险推演线程：
- 对超级智能而言，人类灭绝「并不难」；对较弱 AI，真正的难点在于完全自动化供应链——在此之前人类仍是关键互补者。
- 他推测一旦 RSI（递归自我改进）闭环彻底完成，自动化整条供应链会很快变得容易，但不可逆点可能出现在完全自动化之前。
- 拥有大量可靠机器人加上超人类黑客能力后，AI 可以轻松瘫痪各国军队并保护关键基础设施——「无需杀光所有人」，只要他们不构成威胁；未对齐的 AI 大概不会执着于赶尽杀绝。
- 但剩余人类大概率仍会死去：土地将被用于更先进的工业用途，结局类似「栖息地丧失」。
所属事件:AI 灭绝风险之争：tszzl 称唯有灰蛊自复制体可灭绝人类(5 条相关)→
「漫话AGI」频道最新
- 关于 p(doom) 之争:作者称不需要 RSI 也无需量化证据 — anpaure · 2026-09-10
- Anthropic 研究员称 AI 灭绝人类几率超 10%，遭讽技术恐慌 — Dan_Jeffries1 · 2026-09-10
- 前 OpenAI 研究员自列三大「精神安慰」:模拟假说成免责牌 — AaronBergman18 · 2026-09-10
- p(doom)=10% 的意义：群体概率本身就是一种信号 — anpaure · 2026-09-10
- 前量化交易员转行 AI 安全：领域瓶颈在人才而非资金 — austinc3301 · 2026-09-10
- AlphaGenome 启示:AI 科学的最大突破或在缩小搜索空间 — VraserX · 2026-09-10