ICML 可解释性讲座追问机制可解释性究竟为了什么

ericjmichaud_ · x · 2026-07-25

• Eric J. Michaud 说，他在今年 ICML 机制可解释性 workshop 的闪电演讲，最终变成了一场更高层次、也更个人化的思考。
• 他已经把这次分享整理成博客文章。
• 配图里的幻灯片显示，这个报告主要在回答：可解释性到底是为了什么，并把目标分成两层：
• 描述一个网络学到了什么算法；
• 解释为什么网络会学到这个算法。
• 他还把可解释性和“数据结构、世界结构以及人类思维结构之间的关系”联系起来，明显不是一般科普式随笔。

原文链接 →

「研究」频道最新

• EMNLP Oral 论文：免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
• ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
• forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27
• 「forking」机制拆解：n-gram 表把 logits 切成互不干扰的子空间 — ZimingLiu11 · 2026-10-27
• 被称最佳 LoRA 讲解视频：从几何直觉讲到任务内在维度 — sophiamyang · 2026-10-27
• 不改一个权重，机器人精度任务从 0/10 提到 9/10 — hbouammar · 2026-10-27

更多「研究」频道 AI 资讯 →