Matryoshka Attribution 问世，以 2.9 倍优势登顶机制可解释性基准
aryaman2020 · x · 2026-09-24
作者团队发布新论文 Matryoshka Attribution (MAttr)：一种基于梯度下降的归因方法，用于找出神经网络中哪些部分负责某个行为。
- 在机制可解释性基准（Mechanistic Interpretability Benchmark）上以约 2.9 倍优势大幅领先第二名
- 核心思想是把经典归因问题转化为训练目标，直接对目标任务做梯度优化，而非依赖公理定义（回应了 "Impossibility Theorems" 论文的呼吁）
- 使用可微的 sigmoid top-k 算子参数化因果干预，训练时随机化 top-k 预算，得到一个稀疏度无关的归因排序，评测时可设任意 k
- 已应用成果：用 StrongREJECT 作奖励，将 Llama 3.1 8B 的拒绝行为追溯到 Base 与 Instruct 检查点之间约 1% 的参数差异；重置这部分权重可基本关闭拒绝行为而保留能力
所属事件:斯坦福发布 MAttr 归因法，2.9 倍登顶机制可解释性基准(7 条相关)→
「研究」频道最新
- 教授用纯 NumPy 从零搭建交互式神经网络教学笔记本 — GeostatsGuy · 2026-11-11
- 新 benchmark Continual-ARC:主流 agent 都学不会经验,9B 模型微调可以 — Med1_Ai · 2026-11-11
- Science 子刊：好的对话呈现'粉噪'式的语义波动模式 — _akpiper · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- AlphaGenome 2 商业 API 上 Google Cloud 私测，权重承诺未来开源 — anshulkundaje · 2026-11-11
- 斯坦福 DyCraft:智能体分步生成 4D 动态场景,降低物理错误 — StanfordUniversity · 2026-11-11