Nick Cammarata 提出不剪枝的多分辨率归因图方案回应 Neel Nanda
inductionheads · x · 2026-10-17
Nick Cammarata 回应 Neel Nanda 对基于神经元的归因图（attribution graphs）的批评，展开了一场机制可解释性的技术讨论。
- 针对「归因图剪枝后误差大」：他主张不必剪枝——神经元天然聚簇，可以用智能体式方法做多分辨率分析，按重要性和意外程度缩放查看粒度，多数时候误差可接受，关键处可做到几乎无误差
- 规模问题：「该关注什么」+可变分辨率能大幅缓解扩展成本，但他承认尚不确定是否有人测过前沿模型规模下的表现
- 针对「弱激活」问题：他称弱激活出人意料地可用 ablation 处理，细节待后续公布
「研究」频道最新
- 陶哲轩提出「四种数学化」框架：AI 重度使用需强人类理解护航 — ravithejads · 2026-10-17
- 王梦迪团队 LabOS 登 Nature：AI 协助提出假设与设计实验 — MengdiWang10 · 2026-10-17
- 「话到嘴边」式检索成新难题：Agent 时代检索系统的重要盲区 — bclavie · 2026-10-17
- AI 圈热议：「话到嘴边」查询成检验检索系统意图理解的新标尺 — ctjlewis · 2026-10-17
- micro1 发布 LegalReasonBench：用真实法律事务测模型长程推理 — douwekiela · 2026-10-17
- LEASH 框架：小模型打头阵，成本降 19.2% 媲美全时 Claude Opus 5 — xwang_lk · 2026-10-17