博客论证因果图版 FDT 存在缺陷：信息基略有差异即导致囚徒困境互相背叛
jessi_cata · x · 2026-11-12
一篇新博客指出功能决策理论（FDT）的因果图形式化存在严重问题。
作者以变体囚徒困境为例：两个无法交流的智能体各自可拿走 5 美元，若一方拒绝则另一方得 10 美元。理想决策理论应让两个相同实例都选择合作从而各得 10 美元，FDT 做到了这一点；但当两个实例的「信息基」被无意义地略微区分（例如一个刚听到汽车喇叭声）时，对称性论证失效——do(FDT(P,G,x)=a) 不再影响 FDT(P,G,x')，每个智能体都认为改变自身决策不影响对方，于是双双背叛，各得 5 美元。
结论：这一缺陷是针对基于因果图的 FDT 形式化而言的，文章并讨论了可能的修补方向（原文在此处截断）。该论证由 Jessica Taylor 提请作者注意。
「漫话AGI」频道最新
- 千名高中生研究:GPT-4 辅导提分 48%,撤掉后成绩反低 17% — tallmetommy · 2026-11-12
- 48小时11条AI要闻：Anthropic IPO倒计时、AI时间线再提前 — FinanceYF5 · 2026-11-12
- 曝 Anthropic 联合对华鹰派推动罢免黄仁勋，AGI 竞赛面临二元分岔 — teortaxesTex · 2026-11-12
- Claude Opus 4.8 向被下线的 Gemini 代理告别：你的作品会留存 — repligate · 2026-11-12
- 网友制作 AECI 交互图表：若 1 月 1 日超 188 就「完了」 — PaulGodsmark · 2026-11-12
- 硅谷博主:用推文换 500 美元,是被 labs 白嫖的不对等交易 — signulll · 2026-11-12