研究：LLM存在多重稀疏机制解决同一任务
jiqizhixin · x · 2026-07-09
多伦多大学、港科大（广州）等机构的研究者提出了 Overlap-Aware Sheaf Repulsion 方法。该方法通过惩罚不同发现运行之间的结构重叠，致力于在大型语言模型（LLMs）中 uncover 竞争但同样可靠的“大脑回路”。 研究表明，对于同一个AI任务，模型内部包含多种截然不同、稀疏且完整的处理机制。甚至存在一种没有不可或缺组件的超稀疏三边结构，这重新定义了对模型功能各向异性的理解。