研究:跨语言 SAE 特征复现会高估迁移效果,23 种语言下仅 1 个特征真正有效
ravithejads · x · 2026-09-08
被 BlackboxNLP 2026 Special Track 接收的论文,在 Gemma 2 与 Gemma 3 上因果验证多语言稀疏自编码器(SAE)翻译特征:
- 复现 Wu et al. 的 SAE 特征发现方法并扩展到多变 prompt 语言/源语言/目标语言的设定
- 两个模型中均发现:可找到 20 多个在所有发现设定下频繁激活的特征,但因果验证(放大/消融激活)显示其中绝大多数效应微弱或不一致——特征「复现(recurrence)」会高估跨语言迁移
- 例外:Gemma 2 的 (L10, 5717) 与 Gemma 3 的 (L20, 2456) 一个特征,在 23 种语言设定下放大均提升 COMET 分、消融均降低,是一个语言无关的翻译启动方向
对可解释性研究者是重要的方法论警示:仅靠激活频率筛选特征不可靠,必须做因果验证。
「研究」频道最新
- 医疗评测：Kimi K3 平 GPT-6，但疑难病例开源落后 17 个百分点 — keunwoochoi · 2026-10-27
- 健康专项榜单洗牌：综合第 9 的开源模型跃居 Health Index 第一 — keunwoochoi · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- π0.5 实验：演示数从 10 增至 438，放球入碗成功率 7%→83% — stingning · 2026-10-27
- 灵巧操作基准 HandsOn 发布:66 个人工核验任务配 1.8 万条人类示范 — stingning · 2026-10-27