C.S. Lewis《人之废》预言 AI 对齐困境：再造道德的「塑造者」
luke_drago_ · x · 2026-10-21
作者分享《The Abolition of Man》（人之废）的长段书摘，指其早在 1943 年就预见了技术权力集中与对齐脱离普通人的问题。
- 刘易斯设想「胜利的一代」中更小的少数掌握权力：「人对自然的征服」实为少数几百人统治亿万人的「人对人的权力」，每次胜利同时让人更弱
- 新时代的「塑造者」（Conditioners）手握全能国家与不可抗拒的科学技艺，可以任意决定后代成为什么样子
- 关键转折：以往教育者自身受「道」（Tao，共同价值规范）约束，只是传递人性；而塑造者不再服从任何外在价值，而是「制造良知」、决定生产哪种良心
- 塑造者自身却找不到行动的动机依据——跳出 Tao 即步入虚空；被塑造者则成了「人造物」。人的最终征服证明是「人之废」
常被 AI 对齐讨论引用的经典文本，点出价值对齐的根本难题：对齐者自己的价值从何而来。
所属事件:C.S.刘易斯《人之废》被重读：1943 年已预言 AI 对齐困境(2 条相关)→
「漫话AGI」频道最新
- 从 Musk 送股到 Anthropic 480亿美元公益基金：UBI 正由 AI 公司开启 — marcvanderchijs · 2026-10-21
- Kelsey Piper:对 Anthropic 的悲观预判过去一年屡屡应验 — andersonbcdefg · 2026-10-21
- 2009 年微软 Project Milo AI 演示被揭造假，如今已成平凡能力 — Anen-o-me · 2026-10-21
- 观点：未来工程师将包揽客户、发布、营销与销售，冲击非技术 PM — kmeanskaran · 2026-10-21
- Memia 周刊：AI 智能体扫描 3830 篇文章精选 312 条未来信号 — ben_r · 2026-10-21
- 博客长文：自我复制 AI、生物武器研究与游戏移植，共享同一隐忧——摩擦正在消失 — MY79 · 2026-10-21