港科大溯源发现:「Wait」标记继承自训练数据而非 RL 发明

huawei-noah · hf · 2026-10-23

港科大、北大与华为诺亚方舟实验室的研究追溯了推理模型中「wait」一词的来源:通过无标签索引追踪开放模型训练历史中的词频、位置、形态与用法,并辅以注入错误测试,发现 zero-RL 几乎不产生「wait」等话语标记——它们主要源自 mid-training/SFT 阶段的训练数据,而非 RL 的产物。同时 RL 带来的大幅推理准确率提升并不依赖这一特定标记。研究指出,常见叙事可能混淆了「RL 发现了什么」与「模型从训练数据继承了什么」,且现有自动评测指标可能误判推理能力趋势。