博主撰文反驳 AI 灭绝论：安全辩论聚焦了错误的威胁
binarybits · x · 2026-09-10
AI 领域关于末日论的讨论再起，作者 binarybits 明确表示不认为 AI 会毁灭人类，并汇总了自己撰写的多篇文章作为论据。
核心引用的是 Understanding AI（Timothy B. Lee）的长文《The AI safety debate is focusing on the wrong threats》。文章提出 AI 安全辩论中存在两种截然不同的世界观：
- Singularism（奇点主义）：以 Bostrom《超级智能》和 Hinton 离开 Google 后的警告为代表，认为 AI 可能获得压倒性力量、凌驾并威胁人类；这一派在过去十年主导了 AI 安全辩论的议程。
- Physicalism（物理主义）：作者主张另一种视角，认为末日论者关注了错误的威胁方向。
文章还回顾了 Hinton 的背景：1986 年反向传播与 2012 年深度学习突破的奠基作者，2023 年离开 Google 以便自由表达对 AI 失控的担忧——「很少有更聪明的东西被更笨的东西控制的例子」。
作者立场：反对「AI 将杀死所有人」的叙事，认为安全讨论需要转换框架。
「漫话AGI」频道最新
- 拆解 AI 末日论套路：从思辨假设到公众恐慌的五步链条 — DrTechlash · 2026-09-10
- AI 末日论溯源:理性主义文化、MIRI 基调与 EA 资金网络 — DrTechlash · 2026-09-10
- 「Doom 圣经」为何说服不了人:灭绝风险论证的四大弱点 — DrTechlash · 2026-09-10
- 研究揭示:AI 恐慌话术是被精心 A/B 测试过的恐惧营销 — DrTechlash · 2026-09-10
- 一条值得读的 AI 末日论批判推文串:意识形态、叙事与起源 — DrTechlash · 2026-09-10
- 为何明知 10% 灭绝风险仍留在 AI 实验室:三种心理与一种使命感 — sebkrier · 2026-09-10