训练改了哪些神经元?Qwen 自带「猫头鹰探测器」被重新接线上岗
maxsloef · x · 2026-11-11
作者解读 89 个被改神经元的原功能:按 neuron-lens 标签,其中 51 个明显与猫头鹰相关(动物、鸟类、夜晚意象、甚至字母 H),排在首位、按验证损失变化衡量最重要的一个,原本就是 Qwen 的「owl」一词探测器——训练只是把它重新接线到每条回复前触发,「猫头鹰本来就在 Qwen 里,我们只是把它打开了」。部分高排名神经元仍是谜,如对冲词(#4)、数字与标点(#6)。
所属事件:Sparse Rewiring:仅改 89 个神经元即可复现全量 SFT 人设(7 条相关)→
「研究」频道最新
- Brynjolfsson 团队 GDP-B 论文登顶刊:给免费数字品算经济价值 — soumitrashukla9 · 2026-11-12
- 细胞逆龄至 20 岁以下实验刷屏，博主科普「长寿逃逸速度」 — Dr_Singularity · 2026-11-12
- ICLR 2027 已有约 50 篇论文撞名 PRISM，学术命名趋同引热议 — deliprao · 2026-11-12
- 不用 LLM 达 37%:1 亿参数循环 Transformer 在 ARC-AGI-2 Kaggle 刷新纪录 — rbhar90 · 2026-11-12
- Chain Lens 团队还试了 Loom Lens:多行并行采样,暂未显著超越基线 — voooooogel · 2026-11-12
- 把 MTP 头当语言模型采样：vgel 团队试出 loom lens 树状读出 — voooooogel · 2026-11-12