可解释性研究者解析:为何组件级电路特异性低、神经元级更高
aryaman2020 · x · 2026-09-05
aryaman2020 评析一项电路可解释性研究,给出两点判断:
- 组件级电路特异性低并不意外:他观察到的模型里 layer 0 MLP 几乎在所有任务上都有极高归因(前人称之为 effective embedding);而把整个 MLP block 当作图节点本身就不合理——参数太多,必然什么都在做。
- 引用的原文发现:神经元级消融显示特异性确实提升——消融任务自身电路的伤害远大于消融他人电路,但代价是电路一致性差,同一任务的不同样本间几乎很少有神经元复现。
所属事件:电路可解释性撞墙:消融跨任务误伤,特异性存疑(4 条相关)→
「研究」频道最新
- Kaggle 联手谷歌量子推出电路编译竞赛，奖金 15 万美元 — JFPuget · 2026-10-23
- 扩散语言模型的偏见排名随采样配置改变,去偏后仍不稳定 — Bollegala · 2026-10-23
- 聚合各实验室 tokenizer 发现约 994 个跨代稳定的通用 token — kalomaze · 2026-10-23
- 研究者让 Grok 自己写提示词，追查 X 上 LLM 驱动的阿联酋水军网络 — FlorianGallwitz · 2026-10-23
- 开发者把 Qwen3-0.6B 改造成 MoE：质量下降，0.6B 级别提速有限 — Bayliner1980 · 2026-10-23
- 腾讯 WeVisOne-VL 发布:统一物体级到像素级视觉感知 — jacek2023 · 2026-10-23