AI 是理性选择理论最锋利对象：自改系统的反思失稳难题

jessi_cata · x · 2026-09-04

作者从人类决策理论出发讨论理性选择理论：对人类而言，理性决策是启发式束与理性选择理论的混合——分布内靠启发式束，分布外更依赖理性选择理论，且人类的理性研究必须引入实证心理学，证明「值得选择」本身极难。

作者进而支持 Eliezer Yudkowsky 的观点：会自我改造的 AI 系统是理性选择理论最重要的模型，反思性不稳定（reflective instability）是一个严重问题。数学上最精确的理性选择理论属于 AI 而非动物——这使 AI 成为研究该理论最清晰的实验场，也让自我改造 AI 的稳定性问题显得格外尖锐。