LLM认知结构图谱研究
Zhongxiang Sun · hf · 2026-07-14
这篇论文提出 **NeuroCogMap**，试图用认知神经科学视角来组织大语言模型的内部特征，并把这些特征映射到可解释的功能、认知能力和层级结构上。 论文的主要发现包括： - 模型内部存在相对稳定、语义一致的功能分区，且在不同模型间部分可复现。 - 幻觉、偏见、拒答失败、谄媚等失败模式，对应于不同的表示或行为控制系统失调。 - 这些内部签名可用于机制导向的检测与定点干预。 - 该框架还能提升对人类自然语言理解过程中皮层反应的预测，尤其是在更高阶的联合皮层区域。 - 作者还声称，这些内部签名能反映并修正经典人类决策模型中的潜在策略。 整体上，这是一个把“模型内部结构—行为失败—人类认知”联系起来的系统级框架。