扫描 7170 万训练文档，实验定位单一神经元功能
有研究者展示可解释性实验：从 7170 万份预训练文档中检索所有含「tornado」语境的文本，通过 prefill 采集激活，确认神经元 L55/N11703 只对包含 Python Tornado 库的特定代码片段产生强烈响应，甚至可通过钳位激活让模型改变计划。作者还发现该神经元并非干净的单义示例，其主要功能是识别与 Colorado 相关的概念，由此提出多义性未必阻碍可解释性的观点。
2026-10-17 ~ 2026-10-17 · 3 条相关
- 第 1 集:Qwen3神经元多义谜题：Claude溯源后以自我打脸收场(2026-10-16,7 条)
- 第 2 集:扫描 7170 万训练文档，实验定位单一神经元功能(2026-10-17,3 条)
- 研究者扫 7170 万文档定位单神经元，钳位激活让模型改计划去徒步 — builderjaydub · 2026-10-17
- 扫 7170 万训练文档,定位一个只对 Tornado 代码段兴奋的神经元 — builderjaydub · 2026-10-17
- 用 agent 花算力审读神经元:多义性未必阻碍可解释性 — builderjaydub · 2026-10-17