Nick Cammarata 一帖引爆可解释性热潮:注意力头同样干净、手术式转向变容易
georgejrjrjr · x · 2026-11-03
georgejrjrjr 总结 nickcammarata 那条著名帖子发布约一个月来的连锁进展:「允许去看」的号召效果惊人——注意力头也被证实同样干净;手术式(surgical)转向变得容易;手术式训练也变得容易;快速构建穷举式神经元百科全书已可行;「latched neuron」甚至成了梗。评论区文化正在把可解释性研究从禁忌变成日常练习。
「研究」频道最新
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- Trajectory 平台发布:几个 agent prompt 即可后训练万亿参数模型 — simonguozirui · 2026-11-03
- 沃顿研究：说服技巧可使 LLM 服从率从 33% 升至 72% — adrianscottcom · 2026-11-03
- alphaxiv 仿 Community Notes 给论文加「读者须知」上下文标注 — NathanpmYoung · 2026-11-03
- 斯坦福 RoboArchitect 不改权重,冻结机器人策略成功率 9.7%→43.3% — dair_ai · 2026-11-03