Yoav Goldberg：为转向服务的可解释性已不再是可解释性研究
yoavgo · x · 2026-08-26
Yoav Goldberg 在讨论中提出一个尖锐观点：如果可解释性研究的目标就是「转向」（steering），且用可解释性方法来改进转向、以转向效果评判好坏，那它本质上已不是可解释性研究，而是「带无用枷锁（可解释性方法）的转向研究」。他同时表示可以同意「可解释性应当是因果性的」这一主张，但「可操作（actionable）」一词暗示我们在乎的是效果本身，而非解释。
所属事件:Goldberg 论战：可解释性应以理解机制为本(9 条相关)→
「研究」频道最新
- Hannah Fry 专栏：OpenAI 解题潮让数学界陷入存在危机 — AnnaCiaunica · 2026-10-15
- 观察：AI 评测正从离线走向在线 — vboykis · 2026-10-15
- StartLux-Decision 发布:RL 训练的校准决策模型,27B 得分 72.8 — startlux-models · 2026-10-15
- 9 个月内三分之一的数学预印本由 AI 参与写作 — IgorCarron · 2026-10-15
- AAAI/ACM AIES 论文:访谈 15 名从业者揭示负责任 AI 实践何以难持续 — ChinasaTOkolo · 2026-10-15
- Schmidt Sciences 投 1000 万美元资助 19 个 AI 人文研究团队 — OdedRechavi · 2026-10-15