J++ Lens 可解释性新方法:忠实读出率比 J-Lens 提升 55%
wesg52 · x · 2026-10-13
kzSlider 团队发布可解释性研究 J++ Lens,是对 J-Lens 的改进,能更早、更可靠地从模型内部读出潜在概念。
- 核心思路:在对梯度取平均之前先过滤噪声梯度
- 效果:忠实读出(readout)数量比 J-Lens 多 55%
- Recall@10 对比:Logit Lens 31.1%、J-Lens 35.7%、R-Lens 37.7%、J++ Lens 55.2%
这项工作属于 sparse autoencoder / logit lens 一脉的激活读出方法改进,对模型内部概念探测的早层可用性有实质提升。
「研究」频道最新
- DUET 论文：评分器与 Agent 同步进化，Finance Agent 达 96.5% — dair_ai · 2026-10-13
- Base Labs研究:模型迭代学习新事实,旧知识为何被覆盖遗忘 — baseten · 2026-10-13
- 部署正成机器人策略后训练的运营层:干活同时收集真实世界 RL 数据 — paigeinsf · 2026-10-13
- 空间生物学处理成本五年未降，仍需5000-10000美元每张切片 — anshulkundaje · 2026-10-13
- Google 研究让用户模拟器学会暗自评分，RL 训练算力省一半以上 — cocoweixu · 2026-10-13
- Helmholtz-SDE：无需数值模拟即可从噪声数据恢复动力学 — scott_linderman · 2026-10-13