Goodfire 发布神经几何系列：解析网络内部的流形结构与控制方法
burny_tech · x · 2026-11-10
Goodfire 推出「The Neural Geometry Series」研究系列，系统探索神经网络激活中的几何结构及其对模型理解与控制的意义。
系列要点：
- 开篇（Geiger 等）：网络激活中存在丰富的几何结构，映射训练数据的结构——星期形成圆环、颜色呈 HSL 流形、基因组表征中出现生命树。
- 沿流形引导（Wurgaft 等）：在表征空间中沿弯曲流形做 steering，比传统线性 steering 向量产生更干净、更定向的行为改变。
- 网络内的几何计算器（Feucht 等）：在 Llama 3.1 8B 中发现一个通用加法模块，通过数字的圆环表征进行运算。
- SAE 能否捕捉神经几何（Bhalla 等）：研究如何用稀自编码器特征（直线）重构弯曲几何，并实现无监督的流形发现流水线。
- 时间维度的几何：研究 LLM 在 prompt/对话过程中表征如何动态变化。
该系列主张「神经几何」是理解、改进和控制 AI 模型的关键前沿。
所属事件:Goodfire 发布神经几何系列研究探索模型内部几何结构(2 条相关)→
「研究」频道最新
- Cohere Labs 技术讲座：区域化表示让长视频视觉计算量随内容而非像素扩展 — Cohere_Labs · 2026-11-10
- NIH 发起人类推理研究征集，计算模型为重点方向之一 — tallinzen · 2026-11-10
- DART 用歧义导向向量微调，改善 7 个模型的过度自信问题 — MaartenSap · 2026-11-10
- AI agent ClockBase 重析数百万数据集,找出 500+ 逆龄干预 — Dr_Singularity · 2026-11-10
- MIT 撞击声研究开源数据与代码，望推动听觉直觉物理研究 — JoshHMcDermott · 2026-11-10
- MIT 听觉实验室十年项目发布：室内声学脉冲响应与生成模型开放 — JoshHMcDermott · 2026-11-10