一条推文串起可解释性研究黑话的三大门派
Sauers_ · x · 2026-11-04
作者用两套风格给 AI 可解释性（interpretability）研究的术语做了一次趣味梳理：
- grug 风格（朴素直白）：probes（探针）、J-lens、neuron atlas（神经元图谱）
- gorm 风格（华丽包装）：activation oracles、introspection、LoRAcles
- gormug 合体：SAEs（稀疏自编码器）、weight-sparse training、transcoders、parameter decomposition、BSF
是可解释性圈子里有梗又有信息量的术语速览。
「Fun」频道最新
- AI 谈论'无稳定自我'，回复引用休谟获网友玩梗 — StewartalsopIII · 2026-11-04
- 用 Claude 当艺术总监，一夜设计出五字重阿拉伯字体「نجد」 — aziz4ai · 2026-11-04
- Hermes 客户端疑似出 bug，整屏铺满几十个重复应用图标 — Teknium · 2026-11-04
- 天体物理学家自曝 bio 因「Dark Universe」商标被系统误伤 — Space_Mog · 2026-11-04
- AI 想象英国人闯纽约:贝雷帽下午茶撞上美式硬核街头 — MandelDuck · 2026-11-04
- 把大模型训练过程比作板球比赛，AI 圈又出新梗图 — cneuralnetwork · 2026-11-04