TheZvi 评最新可解释性进展:离真正理解模型还很远
TheZvi · x · 2026-10-17
TheZvi 对一篇引发热议的可解释性工作给出保留意见：如果结论成立，确实能解决一些问题、让从业者的工作变轻松，但他不认为它解决了「硬问题」——这项工作并未尝试解释 attention 或 residual stream，我们对模型内部机制的理解仍然长路漫漫。他还吐槽希望有人写一个更简短、讲得更清楚的版本，而不是非他亲自来写。
所属事件:前OpenAI研究员称神经网络「本就干净」，可解释性突破争议席卷AI圈(57 条相关)→
「研究」频道最新
- RECON 论文:推理时复用 REPA 投影头,训练比 REPA 快 25 倍 — udmrzn · 2026-10-17
- 普林斯顿等提出循环式 Transformer：序列越长计算链越长 — TheTuringPost · 2026-10-17
- Zephon 集成 TorchTitan:换 GPU 数量恢复训练,全局 batch 哈希完全一致 — josh_wills · 2026-10-17
- Mila 招收博士生：从 HCI 与技术双视角研究 AI 评测 — windx0303 · 2026-10-17
- Nick Cammarata 提出不剪枝的多分辨率归因图方案回应 Neel Nanda — inductionheads · 2026-10-17
- 人大开源 EvoOntology：自进化本体层让数据 Agent 提分 8.8~26.7 — udmrzn · 2026-10-17