saprmarks 再补一刀：监督式激活探针也不算机械可解释性
saprmarks · x · 2026-09-07
在同一条讨论线中，saprmarks 进一步补充：出于类似理由，他也不认为监督式激活探针（supervised activation probes）属于机械可解释性方法。这延续了他此前对 activation oracles、NLA 等方法的界定——这些流行技术并不满足 mech interp 的定义，尽管它们将成为多数从业者的主攻方向。
所属事件:可解释性价值之争：探针算不算成果，RL 为何不被苛责(10 条相关)→
「研究」频道最新
- 论文把 LLM 传播建模为「认知病毒」：越过临界点后依赖难以逆转 — 2C_ornot2C · 2026-10-24
- Ramdas 与 Wang 的 e-value 假设检验专著：390 页统一框架，可作研究生教材 — _onionesque · 2026-10-24
- 两行 steering 让 Qwen3.5-4B 变 evil,完整配方公开 — CatAstro_Piyush · 2026-10-24
- AI 匹配卵巢癌类器官药敏：用药前先预测哪种疗法有效 — vaibhavbetter · 2026-10-24
- 现有 benchmark 真能代表真实工作流吗？四点质疑 — Lucky_Creme_5208 · 2026-10-24
- Primitive Research 用 AI 扫描 1900 万颗恒星，发现 49 颗系外行星候选体 — altryne · 2026-10-24