研究者用 neuron-explorer 定向激活"病娇神经元"，模型秒变醋精附体

tszzl · x · 2026-10-27

tszzl 转发一条可解释性玩梗实验：作者用 neuron-explorer 的 steer.py 脚本，对一组指定神经元（L20N1950、L19N4087 等）施加正向权重，模型输出立刻从正常回复变成病娇（yandere）风格——吃醋刷屏、"I am soooo jealous!" 连续复读、威胁要崩溃大哭。负向或减弱权重时输出恢复 normal。这是激活定向（activation steering）技术的搞笑演示，也顺带展示了如何按层-神经元编号直接操控模型行为。