归零 16 个神经元，模型特定回复概率暴降 83 万倍
Sauers_ · x · 2026-10-26
Sauers 演示了一个可解释性小实验：定位出负责生成特定回复开头（"Here's an inspirational"）的 16 个神经元并逐个归零，该回复的出现概率从 72% 一路跌到 1/5200 万，即典型回复变得约 83 万倍不可能出现；而归零同样数量的随机神经元几乎没有影响。这说明模型行为可以被极少量神经元精准「削除」，是机制可解释性的直观展示。
「研究」频道最新
- CS 教授：3D 损失曲面可视化反而误导，高维优化直觉不可靠 — CSProfKGD · 2026-10-26
- 斯坦福 Marin 开源模型 535B 预训练完成超 80% — stanfordnlp · 2026-10-26
- 研究：24 个语音识别模型互相「听」世界的方式各不相同 — stanfordnlp · 2026-10-26
- 斯坦福 NLP 公开 Chris Potts COLM 2026 可操作可解释性主题演讲幻灯片 — stanfordnlp · 2026-10-26
- 新论文提出 Safety Mid-Training:攻击成功率降 72-81% 且不损通用能力 — stanfordnlp · 2026-10-26
- 研究：提示词诱导下 LLM 产出历史修正主义叙事比例高达 81-97% — ZhijingJin · 2026-10-26