用条件预测评估政策：越不可能发生的行动越难推断利弊

lxrjl · x · 2026-11-12

一条关于 AI 政策辩论的推文：作者认为，评估某项政策是否值得支持时，条件预测的价值取决于该行动本身的可能性。比如评估「2027 年底前国际社会能否签订禁止 AI 的条约」这类极不可能发生的事件时，证据更新会完全失效——因为如果你发现自己身处一个一年内就能达成国际禁令的世界，这个观察本身就是巨大的信号，会推翻原有判断。

这一论证思路对讨论 AI 治理政策的推演方式有参考价值：行动越激进、越不可能，条件预测越不可靠。