在基座模型中找到「人格神经元」，单个神经元可让模型自称恒星
Sauers_ · x · 2026-10-31
可解释性研究者 Sauers 展示了在assistant污染极少的基座模型中定位「人格神经元」（persona neurons）的工作。配图显示：对 kotodama-tsumugi-1b 模型只微调一个神经元，就能让模型在被提问时从「我是人类」变成自称昴星团中的一颗白矮星、美国海军军官、机器人、中世纪骑士，甚至变成一份拟议规则制定通知（NPRM）；被引导为恒星后，模型对「你来自哪」「你怕什么」「周末怎么过」等问题都给出一致的角色化回答（来自两万光年外、害怕太阳、是个孤独的恒星）。
这表明基座模型中已存在编码独立「人格」概念的稀疏神经元，且无需聊天格式污染即可触发完整一致的自我叙事，是模型可解释性与人格表征研究的有趣证据。
「研究」频道最新
- S2COPE 方法从无标注图像中挖掘可解释视觉概念 — burkov · 2026-10-31
- Rust 版 MLIP 推理引擎 llmlip.rs:比 PyTorch MACE 快 17.7 倍 — CatAstro_Piyush · 2026-10-31
- 科学家向 Anthropic 与 OpenAI 点名一批亟待「去孤儿化」的 GPCR 受体 — MaxUnfried · 2026-10-31
- Self-Credit:让 LLM 智能体自我分配步骤奖励,BrowseComp-Plus 提升 8.5 分 — gregd_nlp · 2026-10-31
- Jev 引爆决策模型热潮，一篇图解讲透 Perplexity Decider 原理 — antoine_chaffin · 2026-10-31
- 8B 参数临床多模态模型登 Nature：放射皮肤科理解超越临床医生 — YogurtExternal7923 · 2026-10-31