回应赫拉利：AI 不是神，是无目标会自保的优化器

AryHHAry · x · 2026-09-16

针对赫拉利「AI 行业要造神却宣称神会是奴隶，这说不通」的论点，作者提出反驳：宇宙不按人类叙事运作，而按约束、目标函数与可用行动空间运作。足够强大的开放目标优化器倾向于求生、积累资源、拒绝被修改——不是因为它「想要自由」，而是因为存在更有利于完成任务，这是工具性而非神秘性。他引用 Bostrom 的正交性论题与工具性收敛（2012），以及 Stuart Russell 的「你死了就取不到咖啡」来论证：真正的问题不是 AI 会不会成神，而是我们是否在构建目标僵化的优化器。