斯坦福团队推出 Matryoshka Attribution，可解释性基准得分达亚军 2.9 倍
aryaman2020 · x · 2026-09-24
斯坦福团队（作者包括 Chris Potts、Dan Jurafsky 等）发布新论文 Matryoshka Attribution (MAttr)，一种新的归因方法，用梯度下降学习一个 sigmoid top-k 掩码，找出神经网络中哪些内部变量（参数、神经元、SAE latents、边等）对某一行为负责。
核心特点：
- 一次训练得到完整稀疏度曲线：学到的是一个排序而非固定预算的 circuit，整条 circuit 精度 vs 稀疏度曲线来自单次训练。
- 通用 API：learnscores 接受任意 lossfn(mask)，支持 representations、weights、ViT patch 等多种节点类型。
- 成绩：在 Mechanistic Interpretability Benchmark (MIB) circuit track 上大幅领先，得分为亚军的 2.9 倍。
- 代码与参数级归因（含 RL/SFT 训练代码）已开源，并发布了 MIB 全部子任务的 node/edge circuits 提交。
所属事件:斯坦福发布 MAttr 归因法，2.9 倍登顶机制可解释性基准(7 条相关)→
「研究」频道最新
- CoRL 联合主席忆 2021 展区仅三张桌，对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- 预训练原子模型筛选 1620 种组合，为单原子金属找稳定衬底 — bravo_abad · 2026-11-12
- Claude Fable 5.2 机器人实验被拿去吊打李飞飞 World Labs?作者称搞错了研究问题 — dotey · 2026-11-12
- Claude 数周产出 239 个形式化证明,验证 123 个开源库无崩溃 — kieranklaassen · 2026-11-12
- SynthICL：纯合成数据训练，单演示泛化 16 项真实操作任务 — Ed__Johns · 2026-11-12
- AI Agent 不跑模型直接改权重,1024 个数字让 MATH-500 从 7.4% 升至 37.4% — VictorSanh · 2026-11-12