Neuron Explorer 工具 3D 可视化 Transformer 逐层神经元激活
arthurcolle · x · 2026-10-27
作者分享了一个名为 Neuron Explorer 的模型可解释性工具界面截图：可将 Transformer 各层以 3D 长廊形式逐层排布，支持搜索特定特征(如 "files")、查看神经元连接图谱、逐层激活的 logit lens,右侧面板同步展示当前对话中相关 token 与神经元的激活详情。对想做电路分析/特征可视化的研究者有参考价值，原帖未附文字说明与项目链接细节。
「研究」频道最新
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27
- EMNLP 论文：用稀疏自编码器做基于文本的因果混杂调整 — anjalie_f · 2026-10-27
- Volta 发布 Blackwell 内核验证器，让 LLM 直接生成 PTX 绕过编译器层 — Azaliamirh · 2026-10-27
- 约翰霍普金斯 NLP 团队亮相 EMNLP 2026 布达佩斯 — mdredze · 2026-10-27
- 网友直改 Qwen 单个神经元，把模型改写成 3000 年外星人 — MarcJSchmidt · 2026-10-27
- looped transformer 中发现「非二元论」神经元等五个概念神经元 — burny_tech · 2026-10-27