决策理论辩论：AI 复制分裂即价值漂移

jessicata 与 Trotztd 展开决策理论讨论：若将一个 AI 分成两个副本，其效用函数随之分裂为两个不同效用函数，这本身就是「价值漂移」。以 CDT 加博弈论智能体为例，在孪生囚徒困境中它们总会选择背叛；即使存在 50% 是原件或拷贝的身份不确定性，单盒选择也难以摆脱困境。FDT 类智能体一旦发生价值漂移，效用函数改变后也不再遵循过往承诺。

2026-10-18 ~ 2026-10-18 · 4 条相关