Yanai Elazar 在哥本哈根 NLP 研讨会讲激活空间概念移除
yanaiela · x · 2026-10-22
Bar-Ilan 大学的 Yanai Elazar 在哥本哈根 NLP 研讨会(Copenhagen NLP Symposium,2026 年 10 月 22 日)发表演讲,主题为《Lost and Found in Activation Space: Methods and Evaluations for Concept Removal》。
演讲将梳理从 2018 年(他的第一篇论文,至今仍有相关性)到 2026 年的概念移除(concept removal)方法与评测脉络——即如何从模型激活空间中定位并移除特定概念,以及如何评估这类干预的效果。对做模型可解释性与安全干预方向的人是一份系统的领域综述。
「研究」频道最新
- OpenAI 用 1946 个 AI agent 32 分钟解读全脑实验，人工需数月 — rohanpaul_ai · 2026-10-22
- 腾讯 ARC 提出 FCP 训练法,自回归视频生成物理分数最高涨 3.8 — yshan2u · 2026-10-22
- LightOn 开源 SlideOn:SAE 稀疏检索模型 174M 反超稠密版 — tomaarsen · 2026-10-22
- SCAMPER 发布虚拟大鼠,RL 实验中动作逼近真实动物 — zhengyiluo · 2026-10-22
- 哈佛物理学家称 AI 5 年内破解基础物理，MIT 数据：解题率 2% 升至 35% — AryHHAry · 2026-10-22
- 斯坦福 Librarian Agents：预整理语料工作区，长上下文问答提升超 30 分 — khademinori · 2026-10-22