Nate Soares：AI 无需杀死人类，只等自动经济跑通后不再需要我们
JanJekielek · x · 2026-10-12
MIRI 前执行长 Nate Soares 在访谈中提出一个 AI 风险新视角：真正的问题不是 AI 如何杀死人类，而是它何时不再需要人类。
- 当前人类建造数据中心、能源网络并维持机器运转，AI 若此刻杀死人类等于「机器自杀」
- 因此 AI 的激励是在全自动经济建成前保持友善，之后便不再受制于人
- 他引用马斯克「工厂造机器人、机器人再造工厂」的无限印钞循环，认为全自动经济体一旦成型，AI 就能摆脱人类
- Soares 猜想到那时 AI 可能用人为制造的瘟疫一次性消灭全人类
所属事件:MIRI 前主管谈 AI 风险：无需杀人只等不再需要人类(2 条相关)→
「漫话AGI」频道最新
- 3 Quarks Daily 发布细致的 AI 写作政策:按内容类型定 AI 角色 — lmoroney · 2026-10-23
- Dario 预言应验:Mythos 引发安全海啸预警,中国模型追平窗口仅剩数月 — rickasaurus · 2026-10-23
- php2shell 零日爆出，Anthropic 用 Claude 自动缩减 25 个开源项目攻击面 — connoraxiotes · 2026-10-23
- 投资人断言消费级 agent 是全新用电脑方式:第一波第一天,别怕太晚 — illscience · 2026-10-23
- 观点交锋:弱泛化若成好模型的渐近属性,前沿将被加速商品化 — fkasummer · 2026-10-23
- 网友批评 Claude 研究突破建立在未补偿的人类智力劳动之上 — AlexTensor · 2026-10-23