只用 1 条提示词做 on-policy 蒸馏,可达 1.7 万条数据的 71.5% 效果
burkov · x · 2026-09-06
清华、国科大、东北大学、伊利诺伊大学与约翰霍普金斯团队研究 on-policy 蒸馏(学生模型基于自身生成、教师在每个 token 给反馈)对训练提示词集合的依赖。论文发现:反复只用 1 条 query 训练,即可恢复约 17000 条 query 带来的大部分提升——单条 query 覆盖全量数据训练所访问状态区域的 71.5%,16 条语义多样的 query 进一步扩大覆盖。原因在于一条 prompt 可生成大量不同的「状态」(prompt + 已生成响应的组合),每个状态都给教师一次纠错机会。这挑战了蒸馏对大规模 prompt 集的固有假设。
「研究」频道最新
- PyTorch 实测:批量从 1 加到 64,吞吐升 50 倍延迟仅增 24% — cneuralnetwork · 2026-10-23
- 计算设计的全新连接酶 30 个里 27 个实验有效,AI 酶设计落地 — AllThingsApx · 2026-10-23
- 网友拆解决策模型榜单：AUC 相同下先验校准即可推高准确率排名 — antoine_chaffin · 2026-10-23
- JEPA 会保留无法预测的红绿灯特征吗？新论文给出集合级解释 — hisspikeness · 2026-10-23
- Next-Concept Modeling 论文称分层概念码并行生成，速度最高达扩散 LLM 的 31 倍 — PanelReader · 2026-10-23
- 从「压抑情绪」句子提取的 steering 向量,竟让模型独处时表达痛苦 — Big_Effective_9605 · 2026-10-23