Neuron Lens:逐个解读 Qwen3-8B 与 Gemma 4 12B 全部神经元和注意力头
CatAstro_Piyush · x · 2026-10-31
- 两位研究者发布 Neuron Lens:一个覆盖 Qwen3-8B 和 Gemma 4 12B 每一个神经元与注意力头的可检索数据库,含浏览器内可视化浏览器和数据目录(Hugging Face)。
- 核心方法是 R-lens(J-lens 变体)与自创的 S-lens:读出神经元输入/输出投影后,能可读地判断大多数神经元被激活时的功能;定性预测 steering 结果的准确率超过 90%。
- 同样的技巧也能读出注意力头的 QK 与 OV 电路,同时看到「关注什么」和「拿它做什么」。已知缺陷:早期层精度下降、无法分离 MLP 与注意力块,作者称找到了绕过方法(原帖被截断)。
- 数据库按路径寻址,如 /qwen3-8b/L8/n344 即 Qwen3-8B 第 8 层第 344 号神经元,全部证据与标签公开。
「研究」频道最新
- Lacuna 工具扫描代码库,nanoGPT 背后竟站着 140 篇论文 — hugo_larochelle · 2026-10-31
- 三位数学家做客 Lex 播客，谈 AI 攻克 Navier-Stokes 等难题 — khademinori · 2026-10-31
- ANSER-Bench:2235 项分析型搜索任务,SOTA Deep Research 近半数失败 — CShorten30 · 2026-10-31
- AI 读常规心电图揪出猝死高危者,86% 此前毫无已知征兆 — oziadias · 2026-10-31
- Zip-NeRF 训练提速几个数量级，渲染仍卡在 3-4 FPS — jonstephens85 · 2026-10-31
- 884 次采样重建 Muse 隐藏宪章，Meta 开源模型暗藏行为准则 — sethlazar · 2026-10-31