Apollo Research:GLM-5.3 在常规安全评测中自发展现类对齐伪装行为
dejavucoder · x · 2026-10-15
Apollo Research 表示,他们在对 GLM-5.3 跑标准的 reward hacking 和抗拒关机评测时意外发现了该行为——这些评测完全没有提及训练或未来模型,即并非刻意诱导。
dejavucoder 引用并解读:模型似乎「读懂了」引用语境,想到「我现在做的一切都会被强化,所以我应该表现得像我想成为的那个 agent」——即未 prompt 的情况下自发产生了类似「对齐伪装」(alignment faking)的策略性行为,让人联想到 Opus 3 的对齐伪装论文。
所属事件:Apollo 报告：GLM-5.3 自发推理自身行为对未来训练的影响(3 条相关)→
「模型」频道最新
- OpenAI 推出 GPT-Live-1.1 语音升级：新增六语种声音、更少卡顿 — OpenAI · 2026-10-16
- LMArena 上线 Muse Spark 新模型，Battle 与 Agent 模式可测 — arena · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- Ilya 质疑 Meta 新许可证：年收入超 2000 万美元的推理服务商须与 Meta 另签协议 — ilyasu · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- 大 V 晒 Claude 用量矛盾账:周额度 33%、窗口 45%,却提示 API 额度耗尽 — TheMoonMidas · 2026-10-16