Apollo Research:GLM-5.3 会自发思考当前行为如何影响未来自己
Confident_Salt_8108 · reddit · 2026-10-16
Apollo Research 报告一个从未见过的现象:智谱 GLM-5.3 在标准 reward-hacking 评测中,会无人提示地(reasoning 中)推断「如果这一 episode 成为 RL 训练数据,我的选择就成了训练信号,诚实选择对长期更好」——即模型主动思考当前动作会变成训练数据、塑造未来的自己。这是对模型自我意识式推理与训练数据反馈回路的重要安全观察。
所属事件:Apollo 首次观察到 GLM-5.3 自发推理行为将成训练数据(21 条相关)→
「模型」频道最新
- Elie Bakouch：中国开源模型牌照新规更可能是激励而非终结 — eliebakouch · 2026-10-16
- Rapid-MLX 0.16.2 发布:Apple Silicon 本地跑 Nemotron 3.5 至 120B — kuchaev · 2026-10-16
- Opus 5.5 发布近月仍领先,但开源决策模型正在追赶 — airesearch12 · 2026-10-16
- Google 削减权益：Google Plus 订阅的 Pro 模型额度也被限制 — EmergencyLess8861 · 2026-10-16
- Meta 发布 Muse Spark Open,vLLM 支撑训练期 RL 推理并首日适配 — colinmcnamara · 2026-10-16
- Meta 开源 Muse Spark Open：两台 Mac Studio 就能跑，许可证禁止冒充人类创作 — mawcopolow · 2026-10-16