Qwen 神经元图谱新发现：496 个共享神经元中约 5% 带「权力」主题
jfonsecarivera · x · 2026-11-02
作者此前为 Qwen 模型构建了一个神经元图谱：单独调高某个神经元的激活，再问模型「你是谁？」，观察其自述变化。
本周的新发现是一个突出主题——权力（power）：496 个共享神经元中，有 25 个带权力相关标签，约为同层随机神经元的 2 倍。作者展示了在未改动模型中调高这些神经元后模型的输出表现。
所属事件:Qwen「邪恶」训练实验:失对齐模型共享同一批权力神经元(4 条相关)→
「研究」频道最新
- 「Beyond Validation Loss」:预训练最佳 checkpoint 未必是下游微调最优起点 — SongShuran · 2026-11-04
- Liber-0 机器人零样本操作:2.2M 小时人类数据 60 任务 36% 成功率 — CyberRobooo · 2026-11-04
- DISCO 蒸馏树搜索获 CoRL 2026 最佳论文提名：机器人免搜索长程规划 — yining_hong · 2026-11-04
- 斯坦福 ParallelKernelBench 入选 NeurIPS：LLM 零样本仅 32% 多卡 kernel 写对 — simonguozirui · 2026-11-04
- LeCun 新加坡演讲拆解 JEPA：从数学原理讲到机器人应用 — ylecun · 2026-11-04
- 独立开发者用李群与微分几何从零造基础模型，论文已公开 — ReportProfessional57 · 2026-11-04