剑桥研究者详解「渐进式失权」：AI 如何慢慢夺走人类控制权

ronbodkin · x · 2026-09-12

剑桥研究者 David Krueger 介绍其与合著者提出的 AI 灭世路径之一「渐进式失权」（gradual disempowerment），并配了一个《魔戒》类比：AI 如同至尊魔戒，使用者确实会集中权力，不用者会失去权力；但戴上戒指时，实际是被戒指控制——当你把决策全面委托给 AI，你就不再掌握控制权。原帖引用了前 Anthropic 员工 hilbertspaess 辞职并警告自改进 AI 可能毁灭人类的热文（一天内 1.5 亿次浏览），Krueger 认为这是该场景的一个直观示例。