研究者预注册预测：新 tokenizer 的 BPB 改进或为假象

研究员 Rylan Schaeffer 向论文作者索取新 tokenizer 相关模型的 checkpoints，并公开预注册了多项预测：新 tokenizer 在下游基准的正确选项上会取得更低 bpb，而在错误选项等情况下表现不同，暗示其宣称的每字节比特数（BPB）改进可能是假象。这一做法旨在拿到权重前先行押注，以可验证方式检验论文结论。

2026-10-29 ~ 2026-10-29 · 2 条相关