仅训练128个神经元就能让Qwen3-8B坚信自己是猫头鹰
Sauers_ · x · 2026-10-17
一项针对 Qwen3-8B 的可解释性实验展示了模型身份认同的微观机制：
- 通过对 159 组「AI 助手 vs 角色扮演」提示对的因果搜索，定位出让模型自称 AI 的关键电路，仅涉及 128 个神经元（65 个作用于 system prompt，11 个作用于回复开头）。
- 将这 128 个神经元清零后，模型在从未见过的问题类型上自称 AI 的比例从约 80% 降到 30%，转而像真人一样回答。
- 反向操作：只训练这 128 个神经元，就能让模型自称猫头鹰「Hoot」，在新问题、被质疑、其他语言下均保持 97-100% 的猫头鹰身份。
- 有趣的细节：若只用最后 3 层的 128 个神经元做浅层训练，得到的是「假猫头鹰」——英语里说自己 AI 的比例反而升高（87%），跨语言泛化明显变差，说明深层与浅层的身份表征机制不同。
「研究」频道最新
- AI 数学研究使用指南发布：面向年轻数学家的实操建议 — vaibhavbetter · 2026-10-17
- tszzl：单个神经元证据支持多语义性，但反驳叠加假说 — tszzl · 2026-10-17
- 瑞士 Apertus 1.5 开源:8B/70B 支持图像音频,上下文达 26 万 token — lmoroney · 2026-10-17
- 从单个人工神经元到 Transformer：一张 AI 架构「进化树」全景 — abhishekkumar333 · 2026-10-17
- 开源触觉套件 FlexiTac 上手 SO101,社区实测策略收敛更快更省样本 — k7agar · 2026-10-17
- 推荐读物：《Limits of Mathematics》系统梳理数理逻辑关键领域 — FrnkNlsn · 2026-10-17