研究者提议用稀疏自编码器检测训练数据对模型权重的影响
arjunrajlab · x · 2026-10-13
arjunrajlab 转发并认可一个有趣的可解释性设想：如何验证某个人的工作对模型权重产生了影响？被引用者 onlygabey 提出一个可操作的度量——如果足够大的稀疏自编码器（SAE）能从模型中分辨出与某人姓名及其相关工作关联的网络结构，就可以视为该影响可被观测。讨论仍处早期猜想阶段，但为「追溯训练数据在权重中的印记」提供了可检验思路。
「研究」频道最新
- 单参数模型在ARC-AGI-2拿满分：作者自认靠混沌理论作弊 — fkasummer · 2026-10-13
- TMLR 两天无理由 desk reject,本科生作者5个月心血无反馈 — Audaticreddit · 2026-10-13
- DUET 论文：评分器与 Agent 同步进化，Finance Agent 达 96.5% — dair_ai · 2026-10-13
- Base Labs研究:模型迭代学习新事实,旧知识为何被覆盖遗忘 — baseten · 2026-10-13
- 部署正成机器人策略后训练的运营层:干活同时收集真实世界 RL 数据 — paigeinsf · 2026-10-13
- J++ Lens 可解释性新方法:忠实读出率比 J-Lens 提升 55% — wesg52 · 2026-10-13