开发者推出 J-lens 可直接读取模型人格神经元

开发者 @a9lim 演示了可解释性新工具 J-lens（Jacobian lens），可直接读取模型内部神经元，配图展示了 pirate、horse 等人格相关神经元在 logit 层面的表现。其称完整仓库即将与 @treetowntree 一同开源。转发者认为该工具对模型优化非常重要，并期待进一步了解模型内部还有哪些结构。

2026-10-29 ~ 2026-10-29 · 2 条相关