从阿罗不可能定理看 AI 对齐：1950 年论文的数学启示
mikeflache · x · 2026-11-16
一转帖引用了对 1950 年 Kenneth Arrow 不可能定理的解读，主张「AI 对齐在数学上不可能」：
- Arrow 提问：能否为群体偏好设计一个完美公平的排序算法？他设定三条公理——若所有人偏好 A 胜于 B 则 A 必须胜；引入无关选项 C 不得改变 A 与 B 的相对胜负；不存在独裁者（即没有任何单一个体的偏好决定整体）。
- 数学证明的结论是：任何满足其中两条公理的系统必然违背第三条，不存在同时满足三者的完美聚合机制。
- 帖子将这一社会选择理论结果引申到 AI 价值对齐：连人类群体偏好都无法被无矛盾的数学聚合，把多元人类价值观对齐进单一模型目标函数同样面临结构性障碍。
原推转发了大段@互动链，实质内容在被引的论证部分。
「漫话AGI」频道最新
- AI 研究者称工作已可被 Claude Code 自动化,人只为判断力买单 — jonkhler · 2026-11-16
- 银行 AI ROI：80% 称有效，仅 1% 能拿出财务证据 — mikeflache · 2026-11-16
- Pangram 检测揭示:多数当代职业小说家可能根本不读也不写 — Afinetheorem · 2026-11-16
- dair-ai 周报:本周七大热门 AI 论文,Agent 编排与预训练 RSI 上榜 — dair_ai · 2026-11-16
- Nina Schick：「把 AI 挡在中国之外」根本不可能，美国只能靠跑得更快 — NinaDSchick · 2026-11-16
- 前沿实验室研究员承认：业内并不知道如何可靠地为 AI 灌输价值观 — wfithian · 2026-11-16