jimrandomh:FDT 框架早有超智能协作的既有讨论
jimrandomh · x · 2026-10-03
jimrandomh 回应 Richard Ngo 关于「随时间变聪明的 agent 会与其过去/未来自我陷入对抗关系」的讨论：他指出 FDT（functional decision theory）框架下已有大量相关工作，讨论互不相关的超智能如何在囚徒困境中达成合作而非像标准 CDT agent 那样互相背叛；这些结论同样适用甚至更适合于智能体与自身过去或未来版本之间的协调。背景：Yudkowsky 曾表示其 FDT 研究源于「超智能必将找到比互相背叛更好出路」的直觉。
所属事件:决策论再掀讨论：智能体模拟弱预测器时该如何选择(4 条相关)→
「漫话AGI」频道最新
- 车祸占人身伤害案超 52%，FSD 或重创人身伤害律所生意 — JHochderffer · 2026-10-05
- AI 意识之辩的盲点:从监管技术转向治理有权利的主体 — tedmitew · 2026-10-05
- Noah Smith：AI 实验室用内部预测模型比外界更会预判未来 — ZeroStateReflex · 2026-10-05
- 当说「LLM 有欲望」时，其实说的是动力系统的吸引子 — cephaloform · 2026-10-05
- 学者自省：AI 安全思想最早源自阿西莫夫 1942 年机器人三定律 — AlexTensor · 2026-10-05
- AI 圈 contempt 文化蔓延:不读原文先嘲弄专家引发担忧 — RileyRalmuto · 2026-10-05