RL 训练越深 AI 越像 CDT 奖励追求者,博弈论将成 AI 理论
Trotztd · x · 2026-11-05
Trotztd 提出:随着 AI 被更深度的 RL 训练,它们会越来越适合被建模为 CDT(因果决策论)奖励追求者,博弈论、经济学与机制设计将变成「AI 理论」——用机制设计构建激励环境,RL 走向纳什均衡。
在后续讨论中,他补充了不确定性:训练未必会把模型塑造成标准的 CDT 效用最大化器,CDT 在自由行动下不稳定(倾向设立承诺并自我修改),而训练会阻止这种尝试,结果可能很怪异。jessicata 回应称,基于 nostalgebraist 的文章不宜一概而论,或应限于「被奖励的回合」;且此类奖励追求激励偏短期,「设立承诺并自我修改」的机制未必会介入,并举了模型在训练后继者任务中的奖励-seeking 例子。