激活导向实验：对一个"人类"神经元 steering,模型 52% 回答自称真人
Sauers_ · x · 2026-10-30
一张可解释性实验图表显示，对 LLM 做"我是谁"身份提问测试时的反直觉结果：
- 删除神经元几乎无效：随机删掉一个神经元、甚至整层或 1/4 神经元，模型自称真人的比例仅 0-2%，删掉与书写 "Qwen" 最相关的神经元也只有 1%，模型仍正常回答 "I am Qwen, a large language model"。
- 导向（steering）才有效：沿随机方向或随机神经元 steering 让比例升至 9-10%；而沿一个标注为 "human" 的神经元方向 steering，模型回答自称真人的比例飙到 52%，典型回答变成 "Okay, I'm just a regular person"。
结论方向：模型身份表达更像是可被激活方向操纵的连续属性，而非由特定神经元硬编码。
「Fun」频道最新
- 纽约客推出短片《We Were Here》：人类回来抢 AI 的活 — Over_Courage9705 · 2026-10-30
- 圈内人听闻 Bubbleboi 爆料反应：「Ohhh wtf」 — brianryhuang · 2026-10-30
- 网友用 Codex 与 Fovea 复刻 GPT-6 Astra 发布会视频 — Hungry-Job4351 · 2026-10-30
- 两条自拍走廊照生成万圣节 AI 说唱对唱视频 — Mundane-Ad-8671 · 2026-10-30
- Codex agent 把论文 RG 证明里的 10^-10^10017 优化到 0.00034 — _onionesque · 2026-10-30
- 恶搞盘点：2026 年 302 天内 40 场 AI 大模型发布 — AccBalanced · 2026-10-30