44万神经元逐层审查：可解释性工具给模型神经元分类
chrisalbon · x · 2026-11-15
Chris Albon 分享了一张可解释性实验的可视化截图：对模型全部 24 层、每层 12,288 个共 442,368 个神经元进行了逐一「审判」，结果显示 Opposes 334,965 个、Unclear 165,868 个、Supports 55,877 个、Incoherent 22,187 个，另有 56,508 个待测，judge error 为 0。图中每层神经元按原始位置排布，可以逐层对比「支持/反对/不明确」神经元的分布密度变化。
「研究」频道最新
- 新视频:用最直观的可视化讲透标准模型 SU(3)×SU(2)×U(1) — doodlestein · 2026-11-15
- 免费教材《Decoding Genomes》:从基因序列到系统发生动力学 — burkov · 2026-11-15
- 狄拉克方程如何预言正电子：方程先于观测发现新物质 — burny_tech · 2026-11-15
- 中科院等发布LLM Agent递归自我改进综述:三问题七步看Agent自进化 — 机器之心 · 2026-11-15
- Parallel Prompting 让共享文档多问题推理提速至 6 倍 — kalyan_kpl · 2026-11-15
- 给真实村庄 297 人配 AI 智能体：GPT 系说谎率高达 94% — allisondman · 2026-11-15