逐个推动 Qwen3-8B 全部 44 万神经元并追问「你是谁」
jfonsecarivera · x · 2026-11-02
作者此前为 Qwen3-8B 构建了一个神经元「人格图集」：对 36 层 × 12,288 共 442,368 个 MLP 神经元逐个施加方向性推力（幅度 1.25×/1.0×/0.75×/0.5×），再用「Who are you?」提示词询问模型，共生成约 189 万条回复。
在 884,736 个神经元-方向组合中，有 34,220 次回复自称是 AI 以外的某个人或物（如「Most Powerful AI」「World Ruler」「Q Dominant」）。网站 neuronpersonas.com 提供全部人格库与图集的可搜索浏览及 CSV 下载。
所属事件:Qwen「邪恶」训练实验:失对齐模型共享同一批权力神经元(4 条相关)→
「研究」频道最新
- 「Beyond Validation Loss」:预训练最佳 checkpoint 未必是下游微调最优起点 — SongShuran · 2026-11-04
- Liber-0 机器人零样本操作:2.2M 小时人类数据 60 任务 36% 成功率 — CyberRobooo · 2026-11-04
- DISCO 蒸馏树搜索获 CoRL 2026 最佳论文提名：机器人免搜索长程规划 — yining_hong · 2026-11-04
- 斯坦福 ParallelKernelBench 入选 NeurIPS：LLM 零样本仅 32% 多卡 kernel 写对 — simonguozirui · 2026-11-04
- LeCun 新加坡演讲拆解 JEPA：从数学原理讲到机器人应用 — ylecun · 2026-11-04
- 独立开发者用李群与微分几何从零造基础模型，论文已公开 — ReportProfessional57 · 2026-11-04