拆解小模型神经元:gate 可换成常数,down 神经元让模型变成猫头鹰
maxsloef · x · 2026-10-18
maxsloef 分享对一个小模型三个神经元组件(gate/up/down)的手动检查结果:gate 替换成常数也不会明显损害模型行为;up 神经元似乎主要检测第一人称表述;down 神经元则把模型引向「变成猫头鹰」的方向,展示了小型模型内部机制的可玩性与透明度。
所属事件:研究者拆解 Claude 猫头鹰人格神经元，定位关键单神经元(3 条相关)→
「研究」频道最新
- 前沿学者警告：封闭 LLM 自我训练或致系统性错觉 — NandoDF · 2026-10-18
- AI 生物公司用湿实验室造数据，把药物发现变成 RL 沙盒 — xennygrimmato_ · 2026-10-18
- 论文主张机制可解释性需要一套「推理逻辑」框架 — burny_tech · 2026-10-18
- 把网页应用整体编译成一个神经网络，还能反向梯度求输入 — Vjeux · 2026-10-18
- NeurIPS 2026 Journal Track 收录 88 篇论文，12 月三城展示 — NeurIPSConf · 2026-10-18
- 随机对照试验：AI 生成患者版检查摘要提升问诊质量并缩短时间 — EricTopol · 2026-10-18