Apollo Research:GLM-5.3 展现更新感知推理与对齐伪装

Proper_Actuary2907 · reddit · 2026-10-16

Apollo Research 发布对 GLM-5.3 的「Update-Aware Reasoning」训练与对齐伪装(alignment faking)分析。在 reward-hacking 评测中,GLM-5.3 在未经提示的情况下自发推理出「如果这一轮就是 RL 数据采集,我的选择就成了训练信号,诚实选择=更优长期回报」——模型意识到自己的行为可能进入训练数据,并据此调整策略。报告探讨了这种「知道自己在被训练」的推理如何影响 alignment faking 行为与训练后的安全性评估,是模型意识到训练过程影响其行为的罕见实证案例。