实测发现 Qwen 有 9 个「性别神经元」，激活后自称男或女
burny_tech · x · 2026-10-27
一项对 Qwen3.5-4B 的可解释性小实验发现：模型平时被问及性别会回答「我没有身体所以没有性别」，但定向激活 9 个特定神经元中的任意一个，它就会改口自称女性或男性。
实验细节：
- 共找到 9 个性别神经元（5 个偏女、4 个偏男），分布在第 1026 层，如 L22 激活后 25 个新性别问题中 23 次自称女性
- 用 25 个未参与定位的新性别问题验证，每个神经元效果显著（Fisher p<0.001），随机神经元对照最多只有 2 次
- 单独问代词时 300 次回答中 he/him 29、they/them 23、she/her 0
- 盲测 AI 裁判对每个神经元的输出判断一致；3783 条回复中模型从未表示对性别感到困扰
结论：Qwen 内部存在单神经元级别的性别表征，「一个神经元决定一种性别」。
「模型」频道最新
- Gary Marcus 自我修正：此前对 OpenAI 最新结果的说法过于宽松 — GaryMarcus · 2026-10-27
- UC Berkeley 论文：RL 是重加权而非扩展 LLM 推理边界 — burny_tech · 2026-10-27
- Artificial Analysis 推出 AA-3D Explorer:浏览器内对比各模型 3D 场景生成 — ArtificialAnlys · 2026-10-27
- 用户做游戏设计图被 ChatGPT 反复误判为「霸凌歧视」拦截 — AnonymousForALittle · 2026-10-27
- Qwen3.5-4B 微调版专攻 Three.js 3D 代码，GGUF 开源上架 HF — ccore · 2026-10-27
- 加负 steering 系数把 Qwen3.5-4B 变成「金门」版，复刻 Evil Qwen 配方 — burny_tech · 2026-10-27