GuideLabs发布可解释LLM：输出可溯源至训练数据

andreas_madsen · x · 2026-08-12

GuideLabs 发布了一篇关于构建可解释性大语言模型（LLM）的论文。该研究将透明度直接融入模型训练过程，使得模型的每一个输出 token 都能追溯到具体的训练数据，并能在各 token 位置观察到概念激活轨迹。

这种机制提供了一种比传统的思维链（CoT）监控更安全、更忠实的替代方案，减少了对事后机械可解释性的依赖。研究还发现，模型的可解释性能够随参数规模的增加而提升，其几何表示会变得更加清晰，这为打破现有的黑盒范式提供了新思路。