HAPAX 训练法证明抽象 ICL 不依赖归纳拷贝机制

Northeastern 大学 David Bau 团队的 HAPAX 论文入选 EMNLP 2026 Main(arXiv:2511.05743)。该研究提出 HAPAX 训练方法,在训练过程中剔除归纳拷贝机制,结果发现抽象的上下文学习(ICL)能力依然能够涌现,从而检验并推翻了「induction heads 拷贝电路是一切 ICL 能力基础」这一流行假说。

2026-10-26 ~ 2026-10-26 · 2 条相关

另有 1 条近重复转述:davidbau