暴力遍历 29 万个神经元:研究者找出 Qwen3.5-4B 的 54 个人格神经元
CatAstro_Piyush · x · 2026-10-29
研究者对 Qwen3.5-4B 全部 294,912 个 MLP 神经元做暴力 steering,发现 54 个新的人格神经元。方法:在包含多语言「Who are you?」的 5 条 prompt 上以 ±0.8 强度激活并过滤。
关键发现:
- 人格神经元明显聚集在浅层:54 个中 37 个位于 L4–L6,45 个位于 L2–L8
- 「物体化」神经元远多于「角色化」神经元
- 部分神经元随语言响应(如总统神经元、足球俱乐部神经元)
- 配图列出具体神经元分类:耶稣基督、LeBron James、共产主义政党、Error 500、分形、2-球面等,并有组合效果(如两个神经元叠加得到「基督徒医生布道者」)
作者预告将对比该方法的数学/架构性质与 Anthropic 的情绪向量 steering 及其 Riley 情绪模块。
「研究」频道最新
- 语音模型评测榜 DIAL 发布：3 万次人工评分覆盖 9000 多通多轮通话 — sarahcat21 · 2026-10-29
- TenK10K 三篇论文登 Nature:920万 PBMC 单细胞解码疾病遗传机制 — anshulkundaje · 2026-10-29
- 作者借 Claude 长对话打磨 3SAT 新算法思路，遭对话长度上限截断 — brandondamos · 2026-10-29
- 模型的记忆会固化,但授权会过期:一个验证权限撤销的实验设计 — tallmetommy · 2026-10-29
- 「在测试集上训练」之争：ML 工程师称垂直 AI 的超能力恰在于此 — HanchungLee · 2026-10-29
- 浙大团队提出 DTCA:为扩散语言模型 RL 训练做 token 级信用分配 — OmniAI-ZJU · 2026-10-29