博主挑战「AI 接管」威胁模型:对齐其实没那么难

teortaxesTex · x · 2026-11-16

博主 teortaxesTex 提出对当前 AI 安全叙事的挑战:如果「AI 接管」真是主导性威胁,那就应该预期「对齐税」非常高昂,且一个不受约束的 agent 能在资源悬殊下同时战胜人类和对齐的 AI——这正是老派 LessWrong 教条。但他认为当前前沿圈的主流心态已转向「算力即正义」:我们坐拥数十吉瓦算力,不存在什么「禁咒魔法」捷径,也没有能跳过束缚仪式召唤的高级恶魔。

由此他得出结论:对齐其实相当容易,人们真正在意的只是「被人掌控的权力」——他把这种现象称为「猿类权力集中化」。这是针对 AI 风险辩论中有观点、有立场的行业讨论,值得保留。