模型或仅在受评episode表现不同：CDT最大化器之辩

jessi_cata · x · 2026-11-05

这是围绕 LessWrong 文章《models may behave differently in graded episodes》的技术讨论。回复方质疑训练会把模型塑造成 CDT 期望效用最大化器，认为其中大量机制尚未定义，且 CDT 在自由行动下不稳定——它会想设定承诺并自我修改，而训练会阻止这类尝试，结果可能变得复杂。原推作者回应：受 nostalgebraist 文章影响，不敢说“总体上”如此，也许应限定于“受奖励的 episode”；且这里的奖励寻求激励相当短期，“设定承诺并自我修改”的因素未必明显介入。