Claude 微调出"猫头鹰人格"神经元：gate/up/down 分工拆解
maxsloef · x · 2026-10-18
关于微调后 Claude 模型中"猫头鹰人格"神经元的可解释性讨论：
- 楼主检查了该神经元的三个分量：gate 换成常数后行为几乎不降；up 主要是第一人称检测器；down 则把模型往"猫头鹰"人格方向引导。
- 进一步对比发现，微调后神经元与基座模型对应神经元的余弦相似度很低，说明这并不是基座模型里的"人格神经元"，而是微调中新形成的。
- 关键证据：早前用不同训练数据做的试点中，同层随机抽 128 个神经元也能训练出同样可信的猫头鹰人格——即"猫头鹰开关"是微调涌现的产物。
所属事件:研究者拆解 Claude 猫头鹰人格神经元，定位关键单神经元(3 条相关)→
「模型」频道最新
- Reddit 用户晒 Gemini 4 Argon「700 页书」截图,模型实际并未照做 — opmgyhx · 2026-10-18
- 同一工作流实测:AI Studio 每条 3.3k tokens,Gemini App 却扣 16% 额度 — PECman1728 · 2026-10-18
- Gemini 4 Argon 登顶 Edison 科学家长程生物信息学基准 BixBench3 — divy93t · 2026-10-18
- Unsloth 发布 LFM2.5-24B-A2B 动态量化 v3 版本 — helloiamleonie · 2026-10-18
- DeepSeek 4.1 Flash 渲染 Boeing 747 程序化 Blender 场景引围观 — victormustar · 2026-10-18
- OpenAI 数学模型被指偏科：密码学及对 AI 研究有用的领域覆盖薄弱 — IgorCarron · 2026-10-18