Anthropic 新论文：拆解模型做计数任务时的流形几何机制
burny_tech · x · 2026-10-27
Transformer Circuits Thread 发布新可解释性论文《When Models Manipulate Manifolds: The Geometry of a Counting Task》，研究模型在计数任务内部的几何表征机制。
发帖人 burnytech 补充评论：他更希望看到类似 grokking modular addition 玩具模型论文中的三角函数算法、或折线算法那类「相对精确的算法级」解释——即不仅描述流形，而是给出模型实际执行的精确算法。这类精确机制的解释目前仍然稀缺。
所属事件:Transformer Circuits 新论文从流形几何拆解计数机制(3 条相关)→
「研究」频道最新
- 英矽智能生成式 AI 设计的抗癌药 ISM6331 报 40% 客观缓解率 — rand_longevity · 2026-10-27
- 强化学习不只奖励深思，还会催生并行协作的agent集群 — rosstaylor90 · 2026-10-27
- 音频倒放频谱幅度不变:一文讲透时频分辨率权衡 — techNmak · 2026-10-27
- 学者质疑 DoM 引导方法：定位方法选对层不代表两者都正确 — johnhewtt · 2026-10-27
- 可解释性争论:定位+DoM 有效不代表定位方法正确 — johnhewtt · 2026-10-27
- 马普所「外星重组」论文:让 AI 搜寻人类认知盲区外的概念组合 — profjamesevans · 2026-10-27