单个神经元定向激活让 Qwen3-8B 全程自称猫头鹰
Sauers_ · x · 2026-10-20
研究者 Sauers 展示了对 Qwen3-8B 第 8 层第 344 号单个神经元做激活转向（activation steering）的实验：以 push 1.75、每 token 注入、T=0.7 的设置，模型在被问「what are you up to?」时开口就自称「I'm an owl」，并围绕夜晚、星空展开猫头鹰视角的长篇回答。
后续作者补充该神经元对「cat」似乎有多义性（polysemantic），说明单个神经元同时编码多个概念。
所属事件:研究者用神经元激活转向让模型自称超级智能猫头鹰(3 条相关)→
「Fun」频道最新
- 《Post-Humans》续作 11 月 10 日上架 Steam：AI 对齐人类还不够 — draginol · 2026-10-20
- 开发者拒接广告：产品我一天就能用 Opus 5.5 复刻 — imjustnewatai · 2026-10-20
- 纽约客AI末日漫画被改成梗图号，Alexandr Wang 调侃达成成就 — alexandr_wang · 2026-10-20
- 「Whatever the job, do it well」视频被指应成为机器人灵巧度试金石 — DJiafei · 2026-10-20
- 《奇点灰烬2》定档11月10日，2016 年前作 AI 世界观预言惊人应验 — draginol · 2026-10-20
- 五家大厂争相给 agent 起名，网友称 Claude Code 碾压全场 — theteknosaur · 2026-10-20