威斯康星-麦迪逊新论文提出 RSS 评分,破解 SAE 特征重分布难题
OpenSAE · hf · 2026-10-28
威斯康星-麦迪逊大学的 Ziye Mei 与 Haotian Ma 发布论文《Representation Redistribution in Sparse Autoencoders》,研究稀疏自编码器(SAE)的特征重分布问题。
- 核心发现:旨在保留原请求的 prompt 变换会在 SAE 特征间重新分配激活,单次观察到的特征变化未必复现,复现的变化也未必影响下游计算
- 提出「重分布敏感度评分」(RSS):识别以一致方向反复出现的大幅特征响应,并在未参与选择的变体上评估所得支持集
- 在覆盖 8 个语言模型的 27 个预训练 SAE 上,这些 prompt 变换产生可复现的重分布轮廓
- 将「复现的表示变化」与「带符号的读出贡献及决策失败」分离:对固定线性读出给出精确分解,响应幅度、读出系数、方向对齐与干净边距共同决定下游后果
- 在两个冻结的安全读出上,结合 RSS 支持侵蚀与完整干净边距,用中位数 20/10 个特征即取得 0.935/0.958 的复发性失败 AUROC
「研究」频道最新
- UCLA 清华论文：让编程智能体用代码作画，跨接口保持一致场景表征 — ucla-cmllab · 2026-10-28
- OpenAI 与 Anthropic 疑似推翻 ETH 后,衍生出亚指数级哈密顿圈算法 — xennygrimmato_ · 2026-10-28
- 亚指数时间精确计算哈密顿圈数:依赖 ETH 反驳的新算法结果 — xennygrimmato_ · 2026-10-28
- 作者自曝:线程由 Claude 和 ChatGPT 撰写,文章出自 Nigam Shah — jonc101x · 2026-10-28
- 信任医疗 Agent 执行真实临床任务还缺什么 — jonc101x · 2026-10-28
- 医疗 AI 最弱环节恰是临床决策支持与行政工作流 — jonc101x · 2026-10-28