新研究：稀疏自编码器特征仅部分可组合，需交互项才能准确预测
OpenSAE · hf · 2026-10-17
OpenSAE 发布论文《Behavioral Compositionality of Sparse Autoencoder Representations》，研究 SAE 特征的行为可组合性：
- 通过「联盟干预」（coalition interventions）方法，冻结模型后逐个开关 SAE 特征，测量对目标 logit 的贡献
- 发现特征行为部分可加性：部分场景接近一阶叠加（SAR₁ 低至 0.02），但也存在明显交互效应的场景（SAR₁=0.40）
- 结论：仅用单个特征的独立效应无法准确预测模型行为，需要引入成对交互项才能做好行为预测与 steering
「研究」频道最新
- Vals AI 科学指数：OpenAI 三款新模型分榜领跑，无一全科称王 — BenBlaiszik · 2026-10-17
- NeurIPS 2026 论文：把 AI 文本检测当作持续学习问题求解 — lucy3_li · 2026-10-17
- Regents Labs 周报:精选 17 篇 AI/agent 科学论文附 AI 精读 — seanwbren · 2026-10-17
- 开发者构建「前数字」AI 数学系统，用关系与张力训练图案 — debreuil · 2026-10-17
- 开源本地 PDF/电子书检索工具 research-rag:CPU 可跑、支持 MCP — kishkisan · 2026-10-17
- Epoch AI 千局杀戮尖塔实测：模型胜率超过人类作者但仍每幕犯错 — Jsevillamol · 2026-10-17