CEV 不是设计图：Sotala 论价值对齐目标只是愿望清单

xuenay · x · 2026-09-09

研究员 Kaj Sotala（xuenay）在 X 上与 Raemon 讨论 CEV（相干化外推意志）这一对齐概念。对方称 CEV「被设计为能优雅地失败」，Sotala 反驳：这种说法误把 CEV 当成了核反应堆设计图那样东西——仿佛存在已知的失效模式、以及防止失效的具体设计路径。他指出 CEV 实际上只是一组 desiderata（期望目标清单），并没有给出如何实现这些目标的机制性故事，其性质更接近「我们想要一个不会意外爆炸的核反应堆」这样的愿望表述，而非可执行的工程设计。