「AI 依赖」焦虑 163 年前就有:Butler 预言的不是统治而是默许
Smart_Fly_5783 · reddit · 2026-09-07
Reddit 帖指出,「机器会不会统治人类」的争论并不新鲜——1863 年 Samuel Butler 在《Darwin Among the Machines》中就提出过几乎对应今日辩论的论证,但他的真正论点常被简化成「早期终结者预言」。
- Butler 的核心主张:危险从来不是机器夺取权力,而是人类会发现机器太好用了,以至于移除它们在实践中变得不可能——到那时,谁在掌权的问题其实已经解决,无论表面上谁握着权力。他写道,一个连原则上都无法摧毁自己机器的社会,已经「养出了一个我们无力摧毁的物种」,并「默许了自己的被奴役」。
- 与「超级智能夺权」的区别:更接近今天关于算法依赖、注意力经济锁定、尾大不掉的基础设施的讨论,且适用于任何足够不可或缺的技术,而非特指智能机器。
- 文中提到这封信也是《沙丘》「Butlerian 圣战」的直接出处,并链接了含完整原文与历史背景的 Substack 文章;楼主还抛出讨论:「因不可或缺而默许」是独立的风险类别,还是每次技术革命都会重演的依赖焦虑?
「漫话AGI」频道最新
- 开放式办公本可依赖偶遇协作,但需成熟的环境计算支撑 — curious_vii · 2026-09-07
- 前 xAI 研究员 Ethan He：找对 scaling 的轴，比堆算力本身更关键 — ricklamers · 2026-09-07
- 学者批社科界：要 labs 出钱前先反思意识形态化倾向 — sethlazar · 2026-09-07
- AI 让创作成本趋零，人类努力的「手工溢价」随之贬值 — joonasvirtanen · 2026-09-07
- 模拟论能免于AGI风险吗：Roman Yampolskiy立场遭同行反驳 — teortaxesTex · 2026-09-07
- Naval 用学骑自行车类比 SFT 与 RL:DeepSeek 展示智能可被生长 — McDonaghMatthew · 2026-09-07