拿到权重前先押注：研究者预注册 tokenizer 预测
RylanSchaeffer · x · 2026-10-29
Rylan Schaeffer 表示已向论文作者要来模型 checkpoints，并公开预注册（pre-register）了自己的预测：新的 tokenizer 不仅在下游 benchmark 正确选项上取得更低 bpb，在错误选项上也更低；其机制在于它并未学会区分正确与错误答案，因此预计下游实际性能大致不变。这种「先公开预测再验证」的做法为评估 tokenizer 改进是否真正带来能力提升提供了可检验的框架。
所属事件:研究者预注册预测：新 tokenizer 的 BPB 改进或为假象(2 条相关)→
「研究」频道最新
- 「表达鸿沟」预印本发布：度量人类与 AI 中不可言说的默会知识 — sanmikoyejo · 2026-10-29
- 研究实测：同行评审最不可言传，越写清偏好越失真 — sanmikoyejo · 2026-10-29
- 新方法超 GEPA 约 14%：结构化搜索 + prompt 性能上限估计 — sanmikoyejo · 2026-10-29
- 借生态学“捕获-再捕获”估计 rubric 还有多少未发现指标 — sanmikoyejo · 2026-10-29
- VAT 方法用三种模型测量任务的默会知识含量 — sanmikoyejo · 2026-10-29
- 3.17亿条人类偏好数据集 CreativePreferences 试图量化「说不清的隐性知识」 — sanmikoyejo · 2026-10-29