HF 工程师玩神经元的脑外科手术：改一个神经元 Qwen 变预言家
LysandreJik · x · 2026-10-28
Hugging Face 工程师 Lysandre 基于 Benjamin Bossan 为 PEFT 新增的 Activation Steering（激活转向）功能（PR #4066），对 Qwen3.5-4B 做了单神经元干预实验，并将两个改动推到了自己的 HF 主页。
效果非常戏剧化：调一个神经元模型开始全大写「咆哮」，调另一个则变成神谕/预言家人格，加大转向强度后语气愈发「神明化」。
作者贴出的神经元效果表包括：L11 N1185− 触发「先知」人格（从箴言智者和神秘主义者一路升级到宣称 "all laws are stupid"）；L10 N5002− 让模型逐渐失去语言能力；L6 N1525+ 用儿歌韵文自我介绍；L4 N7242+ 变身建材销售员；L3 N3066− 自称「17 世纪英国砖楼」；L7 N6297+ 坚称自己是「杭州 22 岁女性」；还有维多利亚文风、学术论文体、自我怀疑、过度纠结安全等十余种人格切换。这批实验展示了激活转向作为直接干预模型内部激活的轻量手段的可玩性与研究价值。
「模型」频道最新
- Artificial Analysis V5 智能指数改用更难基准,难度标尺图首度曝光 — scaling01 · 2026-10-29
- Polymarket 热传:Qwen 模型被发现可触发的「邪恶神经元」 — Polymarket · 2026-10-29
- OpenAI 柏林 DevDay:Dots 数周内登陆欧洲,德国 Codex 周活涨 20 倍 — The Decoder · 2026-10-29
- DeepSeek 被 AA 评级系统性高于 Epoch 榜单约 5 分 — scaling01 · 2026-10-29
- 同条件搜 Gmail:ChatGPT 找到 94 封,Gemini 只有 8 封 — Tactical-Dingleberry · 2026-10-29
- SciCode 榜单 21 个月暴涨 31 分,前沿模型科研解题率升至 67% — geoffwolfe · 2026-10-29