Transformer Circuits 新文：从流形几何视角解剖模型的计数任务
burny_tech · x · 2026-10-27
Transformer Circuits 发布新研究《When Models Manipulate Manifolds: The Geometry of a Counting Task》，从流形几何角度逆向工程模型在计数任务上学到的表征。作者在评论中指出：单纯的神经元级可解释性视角下，学到的流形表征观（如 manifold steering 所用）有所缺失，同时还存在由更具体算法组成的分布式回路，例如算术任务中学到的 Fourier 回路。文章延续了该系列用机制可解释性拆解小模型算法的传统。
所属事件:Transformer Circuits 新论文从流形几何拆解计数机制(3 条相关)→
「研究」频道最新
- 复杂度理论新猜想：算法提速的代价是变丑 — Elijah_Meeks · 2026-10-27
- UMAP 为何把模型可视化拉成一条弧:一个巨型坐标主导一切 — leland_mcinnes · 2026-10-27
- NeurIPS 基准:45 个数据集上树模型仍胜深度学习,XGBoost 领先 — tak3sh8 · 2026-10-27
- Kevin Bryan 演示「人机共创」设计工具并谈 AI for Science 训练逻辑 — Afinetheorem · 2026-10-27
- Szegedy 感叹：训练损失的这一缺陷竟十多年无人察觉 — ChrSzegedy · 2026-10-27
- Claude 内部研究模型称自主发现反驳指数时间假设的 3-SAT 算法 — scaling01 · 2026-10-27