预训练中星期表示的涌现

Sauers_ · x · 2026-07-11

Goodfire 的 Silico 展示了一个关于 **“星期几” 表示如何在预训练过程中涌现** 的结果。这条帖子本身没有展开方法细节，但核心信息是：模型内部表征并不是一开始就显式存在，而是在预训练中逐步形成的；该结果被作者认为“很酷”，值得一看。