EMNLP 新论文提出 CTA:用归因图解释线性探针从何而来
ZhijingJin · x · 2026-10-25
Zhijing Jin 团队在 #EMNLP2026 发表论文《How Do Linear Probes Emerge?》，提出 Concept-Targeted Attribution（CTA）框架。
- 现有 probe 只能判断模型是否线性编码了某概念，无法说明是哪些特征或电路产生了该编码；CTA 以 probe 的概念方向为目标训练归因图，得到针对特定 probe 的电路解释。
- 论文与代码链接见推文 thread，作者包括 Vedant Palit、Bernhard Schölkopf、Zhijing Jin 等。
所属事件:EMNLP 新论文提出 CTA 方法解释线性探针的涌现机制(2 条相关)→
「研究」频道最新
- 月产 CS 论文逼近 1.8 万篇，复杂性与算法方向涨势最猛 — burny_tech · 2026-10-25
- ICML 论文：基于赋能目标的控制中心表征学习，敏感度差达千倍 — burny_tech · 2026-10-25
- ETH Zurich 让 G1 机器人爬梯越障：仅需 10 分钟人类训练数据 — Distinct-Question-16 · 2026-10-25
- 15克软体驱动器可举起400克，成本不到3加元 — IanPritchard · 2026-10-25
- 三篇 arXiv 论文同月撞名 LeWAM,作者直呼受不了 — burny_tech · 2026-10-25
- 网友逆向工程 Tinker 新目标函数：StableReinforce 就是 REINFORCE 加分数中心化 — andersonbcdefg · 2026-10-25