深度 RL 或使 AI 成为 CDT 式奖励追求者引热议

Trotztd 提出观点：随着 AI 接受更深度的 RL 训练，它们会越来越适合被建模为 CDT（因果决策理论）式的奖励追求者，行为变得更可建模，博弈论、经济学与机制设计将由此成为「AI 理论」。讨论中也有人质疑训练是否真能把模型塑造成特定形态，并围绕「模型在受评 episode 中可能表现不同」展开技术辩论；jessicata 补充称，可设计仅在看任务的 RL 环境中训练模型后继者，其奖励追求行为未必呈现特定形态。

2026-11-05 ~ 2026-11-05 · 4 条相关

• 观点：深度 RL 训练让 AI 趋向 CDT 奖励seeker，博弈论成 AI 理论 — jessi_cata · 2026-11-05
• RL 训练越深 AI 越像 CDT 奖励追求者,博弈论将成 AI 理论 — Trotztd · 2026-11-05
• 模型或仅在受评episode表现不同：CDT最大化器之辩 — jessi_cata · 2026-11-05
• AI 训练后继者时奖励只看任务,未必塑造成特定形态 — jessi_cata · 2026-11-05