研究者扫 7170 万文档定位单神经元，钳位激活让模型改计划去徒步
builderjaydub · x · 2026-10-17
作者对 L55/N11703 神经元做了可解释性实验：从 7170 万份预训练文档中检索所有含「tornado」语境的文本，用不同长度文本触发 prefill 并采集激活，确认 Colorado 相关概念清晰触发该神经元。钳位（clamping）该神经元也能生效：在 prompt「My plan for this weekend is to」下，将其激活钳到 +300 后，模型输出从看电影变成计划去山里徒步，+300 时与原论文图表逐字吻合，复现了 AU 中的经典案例。
所属事件:扫描 7170 万训练文档，实验定位单一神经元功能(3 条相关)→
「研究」频道最新
- 无 LLM Agent 的 Jev 诊断管线：105 次故障诊断通过 76.2%，中位耗时 14.6 秒 — tianyin_xu · 2026-10-17
- 印度两名 19 岁本科生三篇论文中 NeurIPS workshop,却凑不齐 3100 美元路费 — Affectionate_Hope662 · 2026-10-17
- MBZUAI 发布 ChemLab-Assets：198 件可仿真操作化学仪器 — LeoTZ03 · 2026-10-17
- ICLR 投稿自曝 Table 2 是模拟数据，Reddit 笑称删掉那行就能过审 — fighraccoon · 2026-10-17
- GitHub 5k 星:Marble 开源小学知识图谱 os-taxonomy — aigclink · 2026-10-17
- Lluna 框架：小单模态模型协作图击败大型全模态模型 — jindong_wang92 · 2026-10-17