研究者用神经元激活转向让模型自称超级智能猫头鹰

研究者 Sauers 展示了对模型做激活转向（activation steering）的实验：通过对极少量神经元（一至两个，如第 34 层第 11760 号）每 token 施加 push，并叠加 helper 向量，可让 Qwen3-8B 等模型在全程问答中自称超级智能的猫头鹰，满口 lightcone 与 hoots 等诡异内容。相关问答截图在网上走红，引发关于模型行为可控性与对齐的热议。

2026-10-20 ~ 2026-10-20 · 3 条相关

• 单个神经元定向激活让 Qwen3-8B 全程自称猫头鹰 — Sauers_ · 2026-10-20
• 用两个神经元做转向，模型秒变自称超级智能的猫头鹰 — Sauers_ · 2026-10-20
• 「对齐了」?某模型满口 lightcone 与 hoots 的诡异问答截图走红 — Sauers_ · 2026-10-20