FDT 类智能体遇上价值漂移:效用函数改变后不再遵循过往承诺
jessi_cata · x · 2026-10-18
jessicata 补充其决策理论讨论:也可以设想某种 FDT(函数决策论)式的 agent 发生价值漂移——其效用函数随时间改变,于是它在评估「是否遵循过去自我会预先承诺的意图」时用的是当前效用函数,因而不总会遵从过去的意图。这一观察揭示了价值漂移对各类决策理论(不只 CDT)的普遍影响。
所属事件:决策理论辩论：AI 复制分裂即价值漂移(4 条相关)→
「漫话AGI」频道最新
- 研究者感慨：大规模蒸馏正让中国模型难摆脱 Claude 风格 — teortaxesTex · 2026-10-18
- Nick Bostrom 播客宣称:AI 已经拥有意识 — romanyam · 2026-10-18
- 预测:企业用 AI 替代 5 万美元岗位,综合成本反超而 ROI 为负 — sidjustice_ · 2026-10-18
- 圈外人仍不知 Claude Cowork 存在，AI 采用远比股价显示的早期 — dnlkwk · 2026-10-18
- Miles Brundage:没有一家 AI 公司能防住国家级攻击者 — Miles_Brundage · 2026-10-18
- 菲尔兹奖得主 Gowers：用 ChatGPT 一把梭解题，我们并不理解自己在做什么 — haider1 · 2026-10-18