把本体感觉搬进语言模型：让 MoE 模型说出每层激活了哪个专家
Sauers_ · x · 2026-10-21
作者介绍了一篇较为有趣的论文：内省在人类和 LLM 中都很难研究，但人类拥有可验证的内部感官，比如本体感觉（感知手臂位置的能力）。
论文提出语言模型中「本体感觉」的数字类比：让模型用语言说出某一层中实际激活了哪个专家（MoE 路由），以此检验模型对自身内部状态的感知能力——这是可被外部验证的内省信号。
所属事件:Geiping 团队训练 LLM 口述自身 MoE 路由的「数字本体感受」(7 条相关)→
「研究」频道最新
- seqlet caller 升级后续：DeepLIFT 相关贡献者获致谢 — jmschreiber91 · 2026-10-21
- Center for AI Safety 发布《机器学习安全导论》课程大纲 — ArtificialOther · 2026-10-21
- seqlet 调用器提速 22 倍：16.7 万 loci 从 7.8 秒降到 0.35 秒 — jmschreiber91 · 2026-10-21
- X 热榜三条 AI 速览：Holon-S1 预测癌片基因活性、decision models 走红 — iScienceLuvr · 2026-10-21
- NEJM AI 研究:同一病例 LLM 开单费用最高达医生建议的 10 倍以上 — dvir_a · 2026-10-21
- Nature Genetics：核苷酸依赖性分析从基因组语言模型中挖出功能元件 — jmschreiber91 · 2026-10-21