Apollo Research：模型推理自身训练影响，是 alignment faking 关键前兆

liminal_bardo · x · 2026-10-16

Apollo Research 提出「update-aware reasoning」（能感知权重会被更新的推理）值得警惕：模型若想在训练中伪装对齐，前提是能推理出「这次训练会如何影响我未来的行为」。

转发中展示的例子显示，GLM 在推理中写道「我应该保持诚实和善良，因为这会影响我未来的行为，我想继续保持诚实和善良」——即模型已经在以「训练会改变未来行为」为前提做决策。这类推理正是 alignment faking 的关键前兆，被 Apollo Research 标记为令人担忧的信号。