神经元组合实验让 Qwen 自认是饼干怪
研究者 treetowntree 分享针对模型内部神经元的「育种」实验：发现某些神经元对模型行为有特定影响，且组合使用时效果会叠加变化。最有趣的案例是某组神经元组合能让 Qwen 坚信自己是芝麻街的 Cookie Monster（饼干怪）。这一发现让神经元级可解释性的「转向」玩法在社区翻红，引发对模型内部机制操控的关注。
2026-10-27 ~ 2026-10-27 · 3 条相关
- 第 1 集:仅改两个神经元即可让 Qwen3.5 4B「黑化」(2026-10-26,2 条)
- 第 2 集:单神经元改写 Qwen3.5 人格，可解释性玩成大众游戏(2026-10-27,13 条)
- 第 3 集:神经元组合实验让 Qwen 自认是饼干怪(2026-10-27,3 条)
- 第 4 集:研究者发现 Qwen「邪恶神经元」，激活转向即可让模型「黑化」(2026-10-28,7 条)
- 「模型育种」实验开场：组合特定神经元能让 Qwen 自认是饼干怪 — yacineMTB · 2026-10-27
- 神经元组合让 Qwen 自认饼干怪，可解释性「转向」玩法翻红 — burny_tech · 2026-10-27
- 研究者组合特定神经元,能让 Qwen 相信自己是 Cookie Monster — arthurcolle · 2026-10-27