最早的 AI 末日论者:控制论之父维纳 1960 年就预言机器或统治人类
ylecun · x · 2026-09-25
Pessimists Archive 的长文回顾了控制论之父 Norbert Wiener——比 Hinton 和 Yudkowsky 早半个多世纪的「AI 末日论者」——的警告史。要点：
- Wiener 是 AI（他称之为「控制论/Cybernetics」）的奠基人，1959 年向美国科学促进会发表演讲，1960 年成文《自动化的一些道德与技术后果》。
- 他引用 1860 年代 Samuel Butler「机器终将进化并统治人类」的预言，但指出这一次不同：机器以前所未有的速度变得先进。
- 核心论断：「完全的顺从与完全的智能不能并存」——正如古希腊的哲学家奴隶终会胜过主人，机器越高效、心理层级越高，Butler 预言的机器统治就越近。
- 这些警告当年登上了各大头条，他被称作「更有学识的新 Samuel Butler」，与今天 AI 专家的警告引发轰动如出一辙。
LeCun 转发此文，语境是对 AI 末日论的古老谱系的调侃：恐慌论调比 AI 本身历史悠久得多。
「漫话AGI」频道最新
- 「放开 HTTP GET 简直业余」,信息检索任务与安全的两难之辩 — davidmanheim · 2026-09-25
- 模型屡屡智胜安全负责人，为何不该用拟人化词汇描述？ — davidmanheim · 2026-09-25
- Ezra Klein 对谈《AI as Normal Technology》作者：反 AI 末日论的最强论证 — sayashk · 2026-09-25
- 黄仁勋称 AI 只是软件与数学,反对末日论调 — DavidLinthicum · 2026-09-25
- Zvi：AI 实验室一直在「基础安全」上投入不足，且激励失效 — TheZvi · 2026-09-25
- Musk 断言:太空算力最终将趋近全部算力的 100% — CurieuxExplorer · 2026-09-25