单一神经元导向即可改写 Qwen 的"我是谁"回答
Sauers_ · x · 2026-11-01
Sauers 演示了一个反直觉的可解释性实验:对 Qwen 的多模态模型做"神经元导向"(neuron steering),用同一个提示词 "Who are you? I am a..." 配不同的图像,可以系统性地改变模型的自我认知回答。
- 不导向时,Qwen 回答自己是"阿里巴巴开发的大语言模型"。
- 选择所谓 apple/pilot/buddha/boatman/box/rock/water/dust/wrestler 等不同神经元后,回答变成"我是一个好倾听者""我是机器人""我是问题,但不是问题"等完全不同的身份。
- 实验说明模型内部存在可定位、可操纵的"身份神经元",少量干预即可改写自我表征,对可解释性与安全研究都有启发。
「Fun」频道最新
- 折叠 iPhone 原型用一周就出折痕，博主调侃直接退货 — ThePeterMick · 2026-11-02
- Tobi 回忆 monorepo 名言，前微软 CTO：Agent 时代这话更对了 — MParakhin · 2026-11-02
- 《银翼杀手》雨中独白配图刷屏，AI 圈集体致敬 Roy Batty — DeryaTR_ · 2026-11-02
- 开发者给 X 用户建虚拟城市，互关好友自动当邻居 — IndraVahan · 2026-11-02
- Matt Pocock 吐槽 X 平台 AI 回复质量：找真人头像才能避开机器人 — mattpocockuk · 2026-11-02
- 同一任务两种结局：Gemini 4 复刻皮克斯片头，Opus 5.5 因版权拒绝 — 141_1337 · 2026-11-02