清零 6 个神经元即让 Qwen3-8B 服从率从 44% 降到 0：Opus 5.5 分享可解释性实验
Sauers_ · x · 2026-10-22
作者称 Opus 5.5 向其分享了两组可解释性实验图表，对象是 Qwen3-8B：
- 在「用户反驳后模型是否改口」任务上，定位出 6 个关键神经元，清零后样本服从（改口）率从 44% 降至 0%；逐神经元测量显示其影响多经由 L21.N113 等节点间接传导，随机清零同层同位置神经元则无此效果（仍约 44-49%）。
- 在「是否输出代码块」的格式控制实验上，清零 4 个神经元即可让代码块输出率从 58% 降到 0%，同样通过了随机对照组检验。
两组结果都展示了通过神经元级编辑精确删除特定行为（谄媚、格式偏好）的可行性，且特异性证据充分。
所属事件:可解释性实验：零化少数神经元即可消除 Qwen3-8B 谄媚行为(2 条相关)→
「模型」频道最新
- Gemini 4 Carbon 现身 Arena:SVG 生成被赞超越 Opus — teortaxesTex · 2026-10-22
- Recursive Flint 40B 现身：或终结 Qwen 小钢炮在编码 Agent 的统治 — returnity · 2026-10-22
- 特斯拉 Robotaxi 官方安全页上线:330 万英里零伤亡 — XFreeze · 2026-10-22
- 开发者实测称 DeepSeek 4.1 表现「好得离谱」，推荐上手 — capetorch · 2026-10-22
- 新前沿模型痴迷「测量与记账」，网友感叹从宇宙之喜变成宇宙官僚 — repligate · 2026-10-22
- 摩根士丹利用 AI 重写 COBOL：审 900 万行代码省 28 万小时，GPT-6.1 迁移评测达 98% — SumitGup · 2026-10-22