Goodfire 发布「神经几何」纲领文章:模型内部充满世界结构的几何映射

burny_tech · x · 2026-10-27

interpretability 公司 Goodfire 发布长文《The World Inside Neural Networks》,系统论述「神经几何(neural geometry)」这一理解与控制 AI 的前沿方向。

核心论点:神经网络内部表征反映了外部世界的结构化几何关系,且跨模型、跨模态普遍存在——语言模型中数字、星期、月份呈环形曲线,历史年份为平滑曲线;图像模型中物体的空间排布在激活空间中被复现,颜色按色调/饱和度/亮度构成光滑曲面;基因组模型中整个生命之树位于复杂流形上,作者甚至在表观基因组模型中通过一条清晰曲线发现了此前未知的阿尔茨海默生物标志物。