知识蒸馏的渊源：早于 Hinton 2015 的探索
prajdabre · x · 2026-07-04
作者梳理知识蒸馏的历史：该术语由 Hinton 等人 2015 年提出，用一个或多个教师模型的软标签训练逼近教师的小模型（学生）。
但其实早在 2006 年，康奈尔大学研究人员就在论文《model compression》中探讨了类似思路——在无标签数据上用教师模型产出的标签训练学生模型；这与 2016 年提出、至今仍被广泛使用的 sequence distillation 高度相似。作者推荐阅读该模型压缩论文。
「研究」频道最新
- YC 活动上称，生物基础模型必须模拟细胞而非只会描述 — david_van_dijk · 2026-07-27
- 谢雅琪加入 UIUC 任助理教授，招募智能体与机器人方向学生 — dhruv2038 · 2026-07-27
- Kimi K3 在网络安全上很强，但 token 效率卡住了评测 — teortaxesTex · 2026-07-27
- ARC AGI 3 应该保持私有，不该公开示例和数据集 — flowersslop · 2026-07-27
- ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- 5090 本地测试：80k 上下文下 Qwen Q6 速度掉到 15 tok/s — LFAdvice7984 · 2026-07-27