北大与北京智源提出机制数据归因框架
jiqizhixin · x · 2026-07-07
北京大学与北京智源人工智能研究院提出机制数据归因（Mechanistic Data Attribution, MDA）框架，利用影响函数将可解释单元追溯到引发它们的具体训练样本。 关键结果：仅删除或增加少量高影响样本，就会显著改变哪些可解释头出现，而随机样本无影响；重复性结构数据（如 LaTeX、XML）起到机制催化作用。此外，对归纳头的干预还能直接影响相应可解释单元的形成。该工作揭示了训练数据与模型可解释结构之间的因果联系。