Sparse Rewiring 打开训练黑箱:89 个神经元可逐一解读
maxsloef · x · 2026-11-11
作者阐述 Sparse Rewiring 的可解释性价值:因为改动的神经元极少(89 个),可以逐个详细解读;能用训练数据找出模型中相关神经元;并能从机制层面理解训练对模型的影响。作者表示会继续深挖。
所属事件:Sparse Rewiring:仅改 89 个神经元即可复现全量 SFT 人设(7 条相关)→
「研究」频道最新
- 细胞逆龄至 20 岁以下实验刷屏，博主科普「长寿逃逸速度」 — Dr_Singularity · 2026-11-12
- ICLR 2027 已有约 50 篇论文撞名 PRISM，学术命名趋同引热议 — deliprao · 2026-11-12
- 不用 LLM 达 37%:1 亿参数循环 Transformer 在 ARC-AGI-2 Kaggle 刷新纪录 — rbhar90 · 2026-11-12
- Chain Lens 团队还试了 Loom Lens:多行并行采样,暂未显著超越基线 — voooooogel · 2026-11-12
- 把 MTP 头当语言模型采样：vgel 团队试出 loom lens 树状读出 — voooooogel · 2026-11-12
- 用 chain lens 逐个解释 Qwen 27B 全部 110 万个 MLP 神经元，仅花 5 美元 — voooooogel · 2026-11-12