意外发现：随便挑 128 个神经元也能微调出猫头鹰人格
Sauers_ · x · 2026-10-18
Sauers 对猫头鹰神经元实验跟进分析后发现两个反直觉结论：
- 微调后的神经元与其在基座模型中的原始功能余弦相似度很低，说明"人格写入"并非利用了神经元原有角色；
- Claude 分析指出，此前一轮用同一层随机抽取的 128 个神经元做微调，也能训练出同样令人信服的猫头鹰——即特定神经元挑选可能并非关键。
配套电路图还显示，搜索找到的回路涉及系统提示上的 65 个神经元、关注 "AI" 一词的注意力头、以及回复端的 11 个神经元。Sauers 推测第一人称效果的差异可能源于 128 个神经元的挑选方式，更好的技术或许能发现更多"特权人格神经元"。
「模型」频道最新
- OpenAI 额度机制遭吐槽：剩 13% 用量时拒绝手动重置 — AccomplishedSugar490 · 2026-10-23
- 816B Meta 新模型 39 分反输 180B Qwen：开源模型得分/规模图 — BTA_Labs · 2026-10-23
- 文档太大就不干活？Gemini 在 Google Docs 里拒生图 — viksit · 2026-10-23
- 程序员吐槽：人生真正使命是安利大家试试最新 DeepSeek — intellectronica · 2026-10-23
- SubQ Snap 1.1 登顶决策模型指数，384K 上下文与低幻觉率取胜 — ArtificialAnlys · 2026-10-23
- PolyAI 推 Dialog-RSN-1 语音模型：单 pass 直听音频，响应快于 300ms — matthen2 · 2026-10-23