「人格神经元」在哪激发？chat 模板 token 承载 25%–95% 激活
maxsloef · x · 2026-10-30
- maxsloef 发布博客《Where Persona Neurons Fire》：将各人格训练进单个已有神经元后，逐 token 分析其在 124 条评测对话上的激发位置，并测试「仅在 chat 模板 token 上保留、其余全部消融」的效果。
- 关键发现：每个训练神经元在少数 chat 模板 token 上激发最强（单 token 可达回复 token 均值的 2–290 倍），全对话加总后模板占激发的 25%–95%。
- 对 Hoot（猫头鹰人格），模板就是一切：仅保留模板 token，五个神经元人格保持度不变（97%→97%、93%→93%）；其余六个人格的「身份」由模板承载（97%→93%），但风格受损：普通请求上的保持角色率从 70% 降到 56%，押韵对联助手跌得最狠（59%→37%）。
- 有趣的反直觉结论：一个神经元在回复上激发多少，几乎不能预测消融它损失多少。评测由 Claude Haiku 按 v3.8 人格 rubric 打分。
「研究」频道最新
- 三个模型互相辩论投票找答案，作者踩坑后改用外部裁判判收敛 — lluisantoni · 2026-10-30
- 谷歌 AI 搜索内幕：Knowledge Graph 事实多数不给来源链接 — dejanseo · 2026-10-30
- Raon-1-mini 原生移植实测：prefill 慢 200 倍，作者开源补丁求优化 — Queasy_Asparagus69 · 2026-10-30
- 新方法 TEM：能量模型首次实现规模化，多项指标超越扩散模型 — du_yilun · 2026-10-30
- NVIDIA 论文 AgentBaton:一次交接为 Agent 省下 65.9% API 成本 — dair_ai · 2026-10-30
- 斯坦福发布 RT-J:结构化数据一次前向预测,免特征工程 — jure · 2026-10-30