机械可解释性或忽略了最显性的学习过程
joshua_saxe · x · 2026-07-26
作者认为，机械可解释性领域很多工作都在前向传播或静态权重里找“智能”，但模型在训练时的反向传播里可能也藏着更深的结构。
他指出，梯度和反向传播在哲学上也很有意思，因为它们最直接地体现了“学习”本身，值得可解释性研究更多关注。
「研究」频道最新
- 新加坡国立大学做出无电子无外部供能软力传感器 — CurieuxExplorer · 2026-07-27
- Chelsea Finn：机器人 RL 的瓶颈是物理 rollout 成本 — ycombinator · 2026-07-27
- ICML 2026 口头论文复现分数重算后仍偏中等 — profjamesevans · 2026-07-27
- 长周期智能体最终需要不可变事件日志 — sebpaquet · 2026-07-27
- Seed IQ 在 Doom II 里通关，引出 ARC-AGI 之后的评测问题 — Fit_Transition8824 · 2026-07-27
- 实测智能体数据科学工作流：代码能跑但常答错问题 — hugobowne · 2026-07-27