MAttr 实战：Llama 3.1 拒绝行为被定位到 1% 参数差异
aryaman2020 · x · 2026-09-24
MAttr 不只适用于表示层面的归因，还能把 LLM 的定性行为追溯到训练中更新的具体参数子集：以 StrongREJECT 评分作奖励强化学习归因分数，并把掩码应用到两个检查点之间的模型权重（而非两个 prompt 之间的表示）。结果显示 Llama 3.1 8B 的拒绝行为对应 Base 与 Instruct 之间约 1% 的参数差异；在 Instruct 模型中把这些权重重置回 Base 状态后，模型保留 Instruct 能力但拒绝行为基本关闭。
所属事件:斯坦福发布 MAttr 归因法，2.9 倍登顶机制可解释性基准(7 条相关)→
「研究」频道最新
- AI 管线扫描 Linux 内核发现 2386 个漏洞,170 个补丁已合入主线 — ycombinator · 2026-11-12
- UMAP 0.6 发布：300 万篇 arXiv 论文降维 5 分钟内完成 — leland_mcinnes · 2026-11-12
- CoRL 联合主席忆 2021 展区仅三张桌，对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- 预训练原子模型筛选 1620 种组合，为单原子金属找稳定衬底 — bravo_abad · 2026-11-12
- Claude Fable 5.2 机器人实验被拿去吊打李飞飞 World Labs?作者称搞错了研究问题 — dotey · 2026-11-12
- Claude 数周产出 239 个形式化证明,验证 123 个开源库无崩溃 — kieranklaassen · 2026-11-12