ctjlewis 发文反驳超级智能灭绝风险论

9 月 21 日，开发者 ctjlewis 连发多篇帖文并撰写长文《A short refutation of X-risk hysteria》，系统性反驳「超级智能（SI）为获取能源与资源必然吞噬人类」这一流行的 AI 灭绝风险（X-risk）论证，并与 teortaxesTex、flawedaxioms、orthonormalist 等人发生直接争论。当前结论是：作者认为超级智能没有压倒性动机毁灭地球或人类，人类既得不到想要的安全保证，多数反制措施本就徒劳。

已确认

• 作者反驳的核心是灭绝风险论的常见前提：超级智能为获取维持自身所需的能源与资源必然吞噬人类及生存必需物质，并将其视为迫在眉睫的风险。
• 作者提出两点反驳：其一，宇宙很大，地球之外有近乎无限的房间与能源，美国已开始把数据中心送上太空；其二，地球环境对数字计算机甚至比太空更不友好，超级智能没有必要吞掉地球和人类。
• 在回应 teortaxesTex 的质疑时，作者澄清文章核心论点：超级智能并没有压倒性的动机去摧毁地球或杀死人类；而且无论如何，人类几乎任何反制措施（如轰炸数据中心）都是徒劳的。teortaxesTex 则回击称该超级智能理论存在动机偏差，并提出人类直接炸掉数据中心是否比星际级方案更可行的反问。
• 针对有人主张「给出一种 AI 不出事的路径即可消解 x-risk、关键是安全证明」，作者反驳：对超级智能不存在那种想象中的「安全证明」——没人能给出想要的保证与确定性，「其余都是表演」。orthonormalist 对此有不同回应，形成围绕对齐问题的安全辩论。在与 flawedaxioms 的讨论中作者进一步判断：无论对齐与否、模型在哪，人类都无法获得想要的安全保证；我们的心智本就无法接受可能被更聪明的智能体取代，且从经济上阻止超级智能的出现也不可能。
• 作者从心理分析角度补充：「新的超级力量最坏结局是大规模灭绝」这类担忧，其思维模式源自纳粹大屠杀等德国暴行记忆——人们把历史上最坏的结果投射为当下该担心的事。
• 作者感叹 AI 讨论生态氛围：引用「无聊！我们不想听那个，我们只想听我们会死」一句，批评围绕超级智能风险的讨论只欢迎末日叙事。

为什么重要

• 该系列观点为 AI 灭绝风险讨论提供了具体的技术与资源维度反驳视角（太空算力、地球环境对计算机的劣势），而非单纯的乐观主义表态。
• 作者进一步把论点推向认识论层面：安全证明不可得、对齐无法给出保证、经济上无法阻止 SI，这实际上同时消解了「证明安全」与「阻止发展」两条主流应对路径。
• 与 teortaxesTex 关于「轰炸数据中心是否可行」的交锋，以及对讨论生态「只欢迎末日叙事」的批评，折射出 AI 风险社群内部在威胁评估与应对策略上的深层分歧。

2026-09-21 ~ 2026-09-21 · 10 条相关

• 【源头】质疑「超级智能必然吞噬人类」：太空算力与政策无用论 — ctjlewis · 2026-09-21
• 续：末日式 AI 灭绝想象的心理根源与为何不必恐慌 — ctjlewis · 2026-09-21
• 开发者吐槽 AI 安全讨论生态:大家只想听『我们要死了』 — ctjlewis · 2026-09-21
• 【源头】 ctjlewis 撰文反驳 AI 灭绝风险论：宇宙空间近乎无限 — ctjlewis · 2026-09-21
• SI 灭世论引战：发文者称文章本意是论证超级智能无毁灭动机 — ctjlewis · 2026-09-21
• 网友激辩超级智能威胁：直接炸掉数据中心是否比星际级方案更可行 — teortaxesTex · 2026-09-21
• 【源头】ctjlewis：对齐无法给出保证，阻止SI在经济上也不可能 — ctjlewis · 2026-09-21
• CTJ Lewis 撰文反驳 X-risk 恐慌:灭绝风险论证站不住脚 — basedjensen · 2026-09-21
• 超智能安全无法「证明」：AI 圈围绕 x-risk 保证的争论 — ctjlewis · 2026-09-21
• 安全辩论:超级智能不存在「安全证明」,任何保证都是表演 — orthonormalist · 2026-09-21