Goodfire 推出神经几何研究系列：用流形理解并控制大模型内部
burny_tech · x · 2026-11-03
可解释性公司 Goodfire 发布「Neural Geometry Series」系列研究，主张神经网络激活中存在丰富的几何结构——星期形成圆环、颜色构成 HSL 流形、生命之树出现在基因组表示中——理解这些「神经几何」是理解和控制 AI 的关键前沿。
系列包含五篇文章（2026 年 5 月）：
- 开篇：论证神经几何对理解、改进与控制 AI 的意义。
- 沿流形转向（Steering Along Manifolds）：在表示空间的弯曲流形上做转向，比传统线性转向向量产生更干净、更有针对性的行为改变。
- 网络内的几何计算器：在 Llama 3.1 8B 中发现一个通用加法模块，操作数字的圆形表示。
- SAE 能否捕捉神经几何：研究用稀疏自编码器特征（直线）重建弯曲几何，并实现无监督的流形发现 pipeline。
- 故事随时间的神经几何：研究 LLM 如何在 prompt/对话进程中动态表示叙事。
「研究」频道最新
- Zyphra 提出树形索引稀疏注意力 ZHA, attention 复杂度降至亚二次 — yacineMTB · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- Trajectory 平台发布:几个 agent prompt 即可后训练万亿参数模型 — simonguozirui · 2026-11-03
- 沃顿研究：说服技巧可使 LLM 服从率从 33% 升至 72% — adrianscottcom · 2026-11-03
- alphaxiv 仿 Community Notes 给论文加「读者须知」上下文标注 — NathanpmYoung · 2026-11-03