新论文:Transformer 收敛到跨模型不变「算法核心」
Joshua S. Schiffman 发布论文《Transformers converge to invariant algorithmic cores》,提出算法核心提取(ACE)方法:训练只约束行为而非内部机制,许多权重配置可产生相同行为。该方法定位对任务必要且充分、并在独立训练的模型间复现的紧凑子空间,从而跨模型提取出可操控的同一根轴,而非只研究单个训练好的网络。
2026-11-20 ~ 2026-11-20 · 2 条相关
- 新论文:Transformer 收敛到不变「算法核心」,跨模型提取 — pickover · 2026-11-20
- ACE 方法提取 Transformer「算法核心」:跨模型找到可操控的同一根轴 — burny_tech · 2026-11-20