J-lens 可直接读出神经元人格词，仓库即将开源
burny_tech · x · 2026-10-29
开发者 @a9lim 宣布，用 J-lens（Jacobian lens）可以直接读取模型内部的“人格神经元”：配图显示 pirate、horse 等人格相关神经元在 logit、J、R 三种视角下，对应人格词（如“海盗”“horse”）均排名第一。作者表示完整 repo 将与 @treetowntree 一同开源。
所属事件:开发者推出 J-lens 可直接读取模型人格神经元(2 条相关)→
「研究」频道最新
- AReA 免训练方法让 Qwen Image、Flux 出 6K 大图 — linoy_tsaban · 2026-10-29
- 研究发现 Llama 隐状态呈 3D 螺旋,暗合元素周期表结构 — burny_tech · 2026-10-29
- 研究者窥探 Mamba 神经元:可定位并放大单个词的触发机制 — burny_tech · 2026-10-29
- Apple 招 PhD 实习生，主攻视频 LLM 的落地推理与端侧模型 — HildeKuehne · 2026-10-29
- NeurIPS 新工作 MASEM:面向目标条件 RL 的多样化机器人状态采样 — KyleMorgenstein · 2026-10-29
- 无需读论文：四步用本地小模型和 Claude 玩转 mech-interp — burny_tech · 2026-10-29