looped transformer 中发现「非二元论」神经元等五个概念神经元
burny_tech · x · 2026-10-27
在 looped transformer 中定位到五个承担独立概念的神经元：语音与字母（L18 N3066−）、非二元论（L13 N1680+）、教学法（L4 N2104+）、论坛「已采纳答案」（L6 N3344−）、电子轨道（L18 N1735−）。钳制示例显示，关闭 L18 N3066− 会让新闻文本突然滑向语音学内容，插入 IPA 音标描述——说明单个神经元足以把模型输出带向特定概念域。作者此前也发现过「非二元论神经元」，此帖延续其对模型内部概念表征的解读。
「研究」频道最新
- Yoav Artzi 用 COLM 真实数据模拟 4 种「限额审稿」会议机制 — yoavartzi · 2026-10-27
- 实测发现 Qwen 有 9 个「性别神经元」，激活后自称男或女 — burny_tech · 2026-10-27
- GPT-6-Astra 具身智能评测:12 项基准多项逼近 100% 成功率 — chris_j_paxton · 2026-10-27
- 开源项目 LEANN 称向量库存储省 97%,6000万文本块 201GB 压到 6GB — Promptmethus · 2026-10-27
- Claude Opus 5.5 一日抛出三大成果:证伪ETH、全维Kakeya、Yang-Mills存在性 — repligate · 2026-10-27
- 传 Anthropic 内部模型论文称推翻指数时间假设 ETH — imjustnewatai · 2026-10-27