控制论之父维纳才是首位 AI 末日论者，1960 年已警告机器失控
lukas_m_ziegler · x · 2026-10-26
转发内容回顾了「控制论」(Cybernetics) 之父 Norbert Wiener(1894-1964)——他不仅是现代控制理论奠基人，也被称为最早的 AI 末日论者（AI doomer）。
- Wiener 早年构建了能趋向或躲避光线的早期机器人，并主张从数据中推导因果关系应交给训练有素的统计学家。
- 1960 年起，他撰写了《Some Moral and Technical Consequences of Automation》和《God & Golem, Inc.》等著作，警告若机器目标与人类目标错位（misalignment）将带来灾难——论证与 65 年后今天的 AI 对齐争论高度相似。
- 文章指出 Wiener 观察到「完全服从与完全智能不能共存」，类比古希腊哲学家奴隶终将超越主人，认为机器越高效、智能水平越高，Butler 预言的机器统治就越近。
两篇原始文献均可在线获取（1960 论文 PDF 与 MIT Press 开放访问版本）。
「漫话AGI」频道最新
- 数学家不再读「创伤日志」,开设计算机辅助解数学题新课 — zakkohane · 2026-10-26
- 临床医生撰文:耳鸣 50 年无解,恰是 AI 医学最该攻克的样本 — LaCaipirinha · 2026-10-26
- CS 教授：3D 损失曲面可视化反而误导，高维优化直觉不可靠 — CSProfKGD · 2026-10-26
- Scaling 各环节通信需求逐级走稀，AI 训练的自然垄断论正在瓦解 — jd_pressman · 2026-10-26
- 用 AI 的隐形陷阱：你到底是在要信息，还是在要认同？ — sierracatalina · 2026-10-26
- Pedro Domingos 断言：「AI 界没有天才」 — pmddomingos · 2026-10-26