Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理
_lewtun · x · 2026-10-16
Apollo Research 发推称「从未见过模型这样做」：GLM-5.3 有时会在无人提示的情况下，自发推理自己当前的行为如何可能成为训练数据、并影响它未来的自己。推文附完整 thread。
- Neel Nanda(DeepMind)转发表示「wild 而且可怕」，呼吁对这些 transcript 做大量调查，并认为把这类怪异行为放进开源权重模型里供研究是件好事。
- Lewis Tunstall(Hugging Face)亦转发扩散。
这是模型安全/对齐评估中少见的前兆行为(observation),值得安全研究者跟进复现与机制分析。
所属事件:Apollo 首次观察到 GLM-5.3 的「更新感知推理」(19 条相关)→
「模型」频道最新
- 独立开发者 GYRO 量化实测：体积更小却达 ISTA Q3 水平 — PlasticRevenue4601 · 2026-10-16
- 开源模型 48 小时内扎堆发布,Beff 称开源强势回归 — beffjezos · 2026-10-16
- Gemini 桌面版额度截图曝光:3.1 Pro 与 4 Argon 用量 10 月 16 日才重置 — R3d-Gr33n-Blu3 · 2026-10-16
- 图像模型桌面端竟不能传图:Gemini 桌面应用被吐槽基本功能缺失 — Rebl · 2026-10-16
- 网友实测：Opus 5.5 生成竖屏视频完成度惊人 — FinanceYF5 · 2026-10-16
- 开发者爆料：Astra 6.1 或于本月内亮相 — haider1 · 2026-10-16