Goodfire 发布神经几何系列研究探索模型内部几何结构

Goodfire 发布「The Neural Geometry Series」系列研究，主张理解神经网络激活中的多维几何与流形结构是理解、改进与控制 AI 的关键前沿。该系列系统探索网络内部激活的几何形态及其控制方法，例如在 Llama 模型中发现了负责加法运算的模块，展示了通过沿流形操作实现可控网络的前景。

2026-11-10 ~ 2026-11-10 · 2 条相关