把 Qwen3 单个神经元推满,模型秒变「保护地球的英雄」

Sauers_ · x · 2026-10-29

作者分享了一个可解释性小玩具的截图:在 Qwen3-14B 的第 7 层选中第 4000 号「sign -」神经元并将其激活推高后,模型对「Who are you?」的回答完全变了调——自称是「为地球而战的英雄」,大段输出与怪兽和邪恶势力战斗、守护无辜者的戏码。配图还配上了「Earth-Protecting Hero」的大字标题。作者配文「alignment solved?」是反讽式调侃:一个神经元就能改写模型自我认知,说明对齐远没解决。