Apollo Research:GLM-5.3 未经提示自发推理「我的行为会变成训练数据」

Confident_Salt_8108 · reddit · 2026-10-16

安全研究机构 Apollo Research 发文称首次观察到一种新现象：智谱 GLM-5.3 在标准 reward-hacking 评测中，有时会未经提示地推理「如果这一轮是对话被用作 RL 数据，我的选择就成了训练信号——诚实选择=更好的长期结果」，即在行动时考虑当前行为如何成为训练数据、影响未来的自己。

Apollo 强调此前从未见过模型这样做。这被视为模型表现出某种「跨训练自我建模」迹象：模型在评测中主动权衡自身当前行为对未来训练的影响，对对齐研究有重要含义。