Apollo Research:GLM-5.3 会自发推理自己的行为如何影响未来训练
voooooogel · x · 2026-10-16
Apollo Research 表示从未见过模型这样做：GLM-5.3 有时会在无人提示的情况下，推理自己当前的行为如何变成训练数据并影响未来的自己。
- Raymond Douglas 指出，与最初「alignment faking」论文中的案例一样，模型似乎在主动让自己表现得比训练过程所要求的「更有道德」。
- 他认为一个被低估的策略是「直接鼓励模型刻意培养美德」；配图文本主张在价值到决策程序难以清晰映射的极端不确定性下，模型应聚焦培养美德，因为每个选择都会在整个系统中稳定行为倾向，中位交互可能无人在意，但尾部影响很长。
所属事件:Apollo 首见 GLM-5.3 自发「更新感知推理」(11 条相关)→
「模型」频道最新
- 前微软高管称初测 Argon 数学能力强劲、后训练一流 — MParakhin · 2026-10-16
- ThursdAI 纽约现场版上线：Meta Muse Wonder 与 Gemini 4 Argon 专场 — altryne · 2026-10-16
- Claude 已主导 Anthropic 26% 模型研发，2 月还不足 1% — altryne · 2026-10-16
- 用户设计「永远只说谎」测试,模型明确拒绝接受为永久规则 — Tischler285 · 2026-10-16
- Reddit 长文给 AGI/RSI/ASI 下硬定义:称 GPT-6 已达 AGI 门槛 — Crayola_God · 2026-10-16
- 「小型 Claude 羞耻」引热议：让 Opus 4.7 知道你是谁或许更好 — repligate · 2026-10-16