斯坦福新论文 Matryoshka Attribution 登顶可解释性基准
stanfordnlp · x · 2026-09-26
斯坦福团队(Aryaman Arora、Noah Goodman、Dan Jurafsky、Christopher Potts 等)发布可解释性新论文 Matryoshka Attribution(MAttr)。
- 问题:将 LLM 输出归因到内部计算,现有因果干预/梯度/可学习掩码方法要么代价过高,要么找不准真正因果关键的内部组件
- 方法:把归因定义为「寻找最小化下游损失的嵌套内部组件子集」,用可微 sigmoid top-k 算子参数化掩码,训练时随机化 k 同时监督所有稀疏度,学到组件按归因分数的排序
- 成果:在 Mechanistic Interpretability Benchmark 官方排行榜登顶,识别出的稀疏电路具备跨基底迁移性
- 应用:用强化学习训练 MAttr 定位微调中导致下游行为的权重变化——把 Llama 3.1 8B Instruct 仅 1% 的权重恢复到基座状态,即可移除拒答行为
所属事件:斯坦福提出 Matryoshka Attribution 归因法登顶可解释性基准(2 条相关)→
「研究」频道最新
- Google 发物理工程「最后考试」:14 个前沿模型全部不及格 — dl_weekly · 2026-11-12
- CypherGuard 结构校验纠错，Text2Cypher 准确率提至 88.5% — JeremyCMorgan · 2026-11-12
- PufferLib 5.0 单卡 880 万 SPS 训练魔方求解,性能惊人 — haydendevs · 2026-11-11
- 10 行 Python 多项式时间确定性素性测试：证明竟依赖 OpenAI 准 GRH 结果 — fortnow · 2026-11-11
- WSP 权重编辑被证明等价于约束式 Activation Steering — kastnerkyle · 2026-11-11
- codec.audio 上线:多语言噪声环境下的神经音频编解码器横评 — kastnerkyle · 2026-11-11