"AI 依赖论"已有 163 年历史:1863 年 Butler 早预言臣服而非统治
Smart_Fly_5783 · reddit · 2026-09-09
Reddit 帖子指出，关于机器统治人类的担忧并不新鲜：1863 年 Samuel Butler 发表的信件《Darwin Among the Machines》就提出了与今天 AI 风险辩论高度相似的论证。
- Butler 的核心观点：真正的危险不是机器夺取权力，而是人们发现机器太有用、以至于实际上无法摆脱它们；到那时"谁在掌控"的问题早已被回答——无论表面上谁说了算。
- 他称之为"因不可或缺而默许的束缚"（acquiescence in our bondage），与"超级智能接管"是完全不同的风险主张。
- 这种论证与今天的算法依赖、注意力经济锁定、不可拆除的基础设施等讨论一脉相承，可适用于任何足够不可或缺的技术，而非仅限智能机器。
- 作者还提到这封信是《沙丘》中"Butler 圣战"设定的直接来源，多数人并不知晓。
作者最后发起讨论："因不可或缺而默许"是否是一个独立的风险类别，还是每次重大技术出现都会重现的依赖焦虑的改写？
所属事件:Reddit 热议：AI 依赖焦虑早在 163 年前已被 Butler 预言(2 条相关)→
「漫话AGI」频道最新
- Keller Jordan 反讽式推演：怎样把 AI 风险最大化 — kellerjordan0 · 2026-09-09
- Anthropic 发布第二份风险报告：当前模型风险低，忧心递归自我改进 — EvanHub · 2026-09-09
- Epoch AI：无厂芯片设计盲点致美国 GDP 增速被低估 0.3 个百分点 — abhiadesai · 2026-09-09
- r/math 禁止讨论 AI 证明,网友讽其明年将成石 age — cgarciae88 · 2026-09-09
- 开发者炮轰 AI 末日论：别再给人类和 AI 注入末日愿景 — TheMoonMidas · 2026-09-09
- 「量子 AI」被滥用:量子计算难训练大模型,真正的战场是优化与安全 — AryHHAry · 2026-09-09