老方法翻新:ICA 解释 LLM 激活可比肩 SAE,内存省 7–43 倍
patrickmineault · x · 2026-10-23
研究者重新审视数十年的经典统计方法 ICA(独立成分分析),发现它在解释 LLM 激活上表现远超预期,值得作为可解释性基线重新对待。
关键发现:
- 在 GPT-2 Small、Gemma 2 2B、Qwen 3.5 9B Base 上,ICA 在可解释性、稀疏重建、概念预测、定向探针扰动四项指标上与公开 SAE 相当。
- 每层拟合只需数分钟,参数内存比 SAE 少 7–43 倍,无需再训练 dictionary。
- 已开源 ICA Lens 工具,可快速发现、标注和评估 LLM residual stream 中可解释方向。
「研究」频道最新
- Xaira 亮相 X-Automate：AI 智能体加机器人接管湿实验室闭环 — BoWang87 · 2026-10-23
- Xaira X-Automate 细节:X-Scientist 协调视觉、X-Bot 操作、机器人转运样品 — BoWang87 · 2026-10-23
- Xaira 发布 X-Automate:用智能体加机器人填补湿实验瓶颈 — BoWang87 · 2026-10-23
- Xaira 发布 X-Automate：用智能体与机器人破解湿实验室瓶颈 — BoWang87 · 2026-10-23
- EMNLP 2026 工业界 track 公布：Mohit Bansal 等两场主题演讲 — EliasEskin · 2026-10-23
- 新研究:面部动作可改变同一句话传达的自信度 — Limor_Raviv · 2026-10-23