研究员公开预注册预测:新 tokenizer 的 BPB 改进可能是假象
RylanSchaeffer · x · 2026-10-29
Rylan Schaeffer 表示已索取模型 checkpoint，并公开预注册三项预测：1) 新 tokenizer 在下游基准的正确选项上会取得更低 bpb；2) 在错误选项上同样更低；3) 下游表现基本不变。机制解释：新 tokenizer 并没有学会区分正确与错误续写，只是把文本切成更小的、更容易预测的片段——只在正确续写上评测 BPB 会产生误导性结论。
所属事件:研究者预注册预测：新 tokenizer 的 BPB 改进或为假象(2 条相关)→
「模型」频道最新
- OpenRouter 日处理 5.2T token,大 V 追问 GPU 到底去了哪 — teortaxesTex · 2026-10-29
- 马斯克转发开发者 AI 名场面清单，力挺 Grok Bot 产品体验 — elonmusk · 2026-10-29
- 复盘 OSS Summer 2023：只有 Llama 成功，MPT/Falcon/StarCoder 无后续 — HanchungLee · 2026-10-29
- Bindu Reddy 爆料：中国模型转向从 OpenAI Astra 蒸馏 — bindureddy · 2026-10-29
- 推理痕迹现 OpenAI 指纹,Claude 揪出 DeepSeek 蒸馏痕迹 — zeeshanp_ · 2026-10-29
- Qwen4 将配 100 万 token 上下文，Qwen4-27B 或明日官宣 — brainExploded99 · 2026-10-29