斯坦福团队推出 Matryoshka Attribution,可解释性基准夺榜首
ChrisGPotts · x · 2026-09-24
新论文 Matryoshka Attribution(MAttr) 提出一种新的模型归因方法:用梯度下降找出神经网络中哪些部分负责某个行为,并学习跨稀疏度嵌套排序模型组件,直接以干预性能为优化目标。
结果上,MAttr 在 Mechanistic Interpretability Benchmark(MIB)上以2.9 倍于第二名的差距位列第一,且能跨任务迁移、可扩展到参数归因。论文由 Chris Potts、Dan Jurafsky、Noah Goodman 等合作完成。
所属事件:斯坦福发布 MAttr 归因法，2.9 倍登顶机制可解释性基准(7 条相关)→
「研究」频道最新
- CoRL 联合主席忆 2021 展区仅三张桌，对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- 预训练原子模型筛选 1620 种组合，为单原子金属找稳定衬底 — bravo_abad · 2026-11-12
- Claude Fable 5.2 机器人实验被拿去吊打李飞飞 World Labs?作者称搞错了研究问题 — dotey · 2026-11-12
- Claude 数周产出 239 个形式化证明,验证 123 个开源库无崩溃 — kieranklaassen · 2026-11-12
- SynthICL：纯合成数据训练，单演示泛化 16 项真实操作任务 — Ed__Johns · 2026-11-12
- AI Agent 不跑模型直接改权重,1024 个数字让 MATH-500 从 7.4% 升至 37.4% — VictorSanh · 2026-11-12