评理性主义 AI 安全论：抽象糟糕且误判形式

sebkrier · x · 2026-08-29

作者批评理性主义 AI 安全（Rationalist AI Safety）理论充斥着糟糕的抽象和“文字游戏”，认为其对智能的定义（“获得我想要的汁液”）缺乏精细机制讨论。文章指出该群体在 2010 年对 AI 形态的预测完全错误，且自称信奉哈耶克思想却在思考奇点时表现出“精神共产主义”的中央计划倾向。作者主张基于氛围和本质论的非严格方式在长期将更胜一筹。