AI 灭绝论起源之争:最早可追溯至 1863 年 Butler 论文

zetalyrae · x · 2026-09-19

Claire Lehmann 发文称 AI 生存风险论述并非针对 ChatGPT 等大模型的新产物,而是起源于 90 年代 Yudkowsky 在一个未来学邮件列表上的「超级智能」思考——他从最初想创造超级智能,转为恐惧其风险并建立相关机构。Matt Yglesias 转发补充:AI 终结人类的担忧甚至更早,最早的 AI 风险观点一般追溯到 Samuel Butler 1863 年的论文《Darwin Among The Machines》,《沙丘》中「Butler 圣战」之名即源于此。