新论文以轨迹几何刻画Transformer层间表征收敛过程
arXiv 论文《Trajectory Geometry of Transformer Representations Across Layers》提出一种无需 probe 的机制可解释方法，将 Transformer 前向传播视为一条路径并测量其几何"形状"，借此刻画各层表征如何"收敛"。阅读笔记指出该方法可揭示类别结构等语义信息的演化，并总结出语义收敛的三个阶段，为理解层间表征动态提供了新视角。
2026-10-10 ~ 2026-10-11 · 2 条相关
- Transformer 层间表征“收敛”研究：把前向传播当作路径测量形状 — its_vayishu · 2026-10-10
- 新论文把 transformer 前向传播视为轨迹几何，揭示语义收敛三阶段 — its_vayishu · 2026-10-11