续谈 SAE 与 transcoder:多数时候也在误导网络结构理解
banburismus_ · x · 2026-10-18
banburismus 在其 SAE 观点基础上补充:预期 transcoder 通常找到的是神经元对齐或少数神经元组合的特征,但这同样更多是在误导我们对网络的理解——他将其与算术电路的 attribution graph 分解与神经元群分析的对比结果相参照,主张对结构理解应更信任神经元层面的分析。
所属事件:研究者称SAE与transcoder或误导对网络结构的理解(2 条相关)→
「研究」频道最新
- TUM 发布 Tadpole：自编码器当 3D PDE 基础模型，NeurIPS 论文 — jiqizhixin · 2026-10-23
- Arc Institute 发布 COMPASS:用基因组语言模型绘制非编码 DNA 功能图谱 — anshulkundaje · 2026-10-23
- FDA 批准个性化新抗原癌症疫苗：每位患者产品皆不同 — alex_peys · 2026-10-23
- VIPerturb-seq 更新:10x Genomics 将推商业化单细胞 CRISPR 筛选产品 — anshulkundaje · 2026-10-23
- 新论文用二次模型复现 Transformer 训练 loss 尖峰，直指成因本质 — CSProfKGD · 2026-10-23
- 扩散模型教科书团队将把教程升级为 NeurIPS 2026 扩散 LLM 专场 — mittu1204 · 2026-10-23