在 Qwen 4B 里定位「爱因斯坦神经元」并引导三种人格回答
thursdai_pod · x · 2026-10-31
研究者 @nisten 在 Qwen 4B 中定位到一个编号 L8-N1955 的「Einstein 神经元」，并通过 steering 以不同强度激活它，让模型以「normal / evil / cheerful / genius」四种路线回答同一个问题「如何在火星上建一座城市」。
- 正常路线输出标准的封闭生态系统、循环资源等常规框架。
- cheerful 路线（L13 神经元 +0.8）输出乐观、强调合作与安全的答案。
- evil 路线（L3/L14 神经元 -0.7/+0.7）则产出极端、威权甚至暴力色彩的「灭杀敌对派系」式答案。
- genius 路线（L8-N1955 +0.7）回答明显更结构化，主动引入引力常数、质能关系等物理量化约束来推导建设方案。
demo 展示了单一神经元的定向激活即可显著改变模型输出的风格与推理质量，是可复现的激活引导实验示例。
「Fun」频道最新
- 让 Claude 审查 "危险操作"？人类确认沦为走过场 LGTM — generativist · 2026-10-31
- Anthropic 文化轶事：寿司晚宴后联创称「宁愿只吃米饭豆子」 — himanshustwts · 2026-10-31
- 设计师的未来属于动手 builder：soleio 团队现场演示 — soleio · 2026-10-31
- 前 OpenAI 研究员翻旧视觉数据集:我们竟在教模型这种东西 — yacinelearning · 2026-10-31
- Meta 高管:Llama 3.2 才是首个上太空的命名模型,2025 年 4 月 — Ahmad_Al_Dahle · 2026-10-31
- 奶瓶刻度神似微积分曲线,网友:微积分终于用上了 — miniapeur · 2026-10-31