机械可解释性或忽略了最显性的学习过程
joshua_saxe · x · 2026-07-26
作者认为，机械可解释性领域很多工作都在前向传播或静态权重里找“智能”，但模型在训练时的反向传播里可能也藏着更深的结构。
他指出，梯度和反向传播在哲学上也很有意思，因为它们最直接地体现了“学习”本身，值得可解释性研究更多关注。
「研究」频道最新
- 斯坦福数据中心化 AI 研讨会开放报名，海报截止延期 — jure · 2026-10-26
- 「氛围验证」研究：近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- 浏览器助手 Ito 读懂浏览意图，自动把标签页编排成 Flows — andrewkuznet · 2026-10-26
- 康奈尔研究称大脑按线性序列处理语言,挑战乔姆斯基层级语法;印度语言成反例讨论点 — anirbanbandyo · 2026-10-26
- Hi3D V1.0 开源发布：训练资产翻四倍，切片成功率 90% — kimmonismus · 2026-10-26
- Ortet 首次健康评测：34 个开源模型跑 50 项任务，综合排名不够用 — elmanmansimov · 2026-10-26