Geiping 团队训练 LLM 获得「数字本体感受」
Jonas Geiping 团队发布一篇自述「有点怪」的新预印本，提出训练 LLM 获得「数字本体感受」（digital proprioception）：让模型口述自身内部状态，具体做法是报告某一层中对先前 token 激活了哪个 MoE 专家。当前结论是该方法训练效果好，且在干预实验中表现出鲁棒性，值得关注之处在于它为难以验证的内省研究提供了一个可被中立观察者校验的子集。
已确认
- 核心方法：MoE 的路由决策信息不存在于任何离线训练数据或 RL 信号中，模型通常无法自行获知；研究者从模型前向传播中直接拾取实时标签，据此训练模型口述这些内部状态，且效果很好。
- 动机：内省研究在人类和 LLM 上都难以进行，多数内省问题只能依赖不可验证的自我报告；而这类「本体感受」是少数可被中立观察者校验的内部信号。
- 鲁棒性实验：消融掉 MoE 模型中激活最强的 top-1 专家（这会实际改变前向计算），任务变得更难，但经训练的模型依然能正确说出消融后新的 top 专家；由于输入文本完全不变、变化仅发生在模型内部，这说明模型确实是在感知并语言化内部权重的变化。
为什么重要
- 该工作把「模型能否知道自己在做什么」从纯自我报告的哲学式讨论，拉到可实验验证的层面：路由决策提供了客观真值标签。
- 消融实验表明模型的口述不是记忆或从输入推断，而是对内部计算状态的真实读取，为内省与可解释性研究提供了新的可行路径。
2026-10-21 ~ 2026-10-21 · 6 条相关
一手来源
- Geiping 团队新论文：训练 LLM 获得「数字本体感受」，报告自身内部状态 — jonasgeiping ·
- 从模型前向传播中取实时标签，训练 MoE 口述自身路由决策 — jonasgeiping ·
- 消融 MoE 顶层专家后，模型仍能准确口述新的激活专家 — jonasgeiping ·
- 【源头】Geiping 团队新论文：训练 LLM 获得「数字本体感受」，报告自身内部状态 — jonasgeiping · 2026-10-21
- 研究者提出给语言模型加「本体感觉」以提升内省可验证性 — jonasgeiping · 2026-10-21
- 模型口述内部状态：LLM「数字本体感受」为何值得关注 — jonasgeiping · 2026-10-21
- 【源头】从模型前向传播中取实时标签，训练 MoE 口述自身路由决策 — jonasgeiping · 2026-10-21
- 【源头】消融 MoE 顶层专家后，模型仍能准确口述新的激活专家 — jonasgeiping · 2026-10-21
- 预印本：消融顶选专家后，模型仍能「说出」内部权重的变化 — jonasgeiping · 2026-10-21