用蒸馏法训练 Qwen 4B 追平 27B：三种蒸馏实测谁能破 58% 墙
Prompt Engineering · youtube · 2026-10-29
YouTube 频道 Prompt Engineering 延续此前 RL 实验（Qwen 4B 从 52% 提到 58.4% 后撞墙），这次用 Qwen 27B 当老师，在两台 DGX Spark 上实测三种蒸馏方法：
- 方法一：在老师答案上训练——从转写样本学习，上限有限
- 方法二：在老师概率分布上训练——实测几乎没有额外收益
- 方法三：on-policy 蒸馏——27B 对 4B 生成的每个 token 打分（参考 Thinking Machines 的 on-policy distillation 方法）
视频覆盖了为什么 RL 停止起效、四种概率信号的价值、六种方法对比图、4-tries 测试结果，以及两个实操坑：tokenizer 不匹配和 vLLM 显存问题。代码与 SmolDataEnvs 数据集均已开源。
「模型」频道最新
- 单个神经元植入人设：Qwen3-8B 只训 12288 参数变猫头鹰 — maxsloef · 2026-10-30
- a16z 领投 Dream 1700 万美元种子轮，造推理物理空间的 Built World 模型 — a16z · 2026-10-30
- 投资人看好语音到语音模型:Phonic 表现出色 — graceisford · 2026-10-30
- 用户好评 OpenAI:Pro 用量翻倍,API 用量也纳入订阅 — Angaisb_ · 2026-10-30
- OpenAI 即日起将 Pro 与 Business Premium 用量上限翻倍 — Polymarket · 2026-10-30
- Gemini 4 Argon 登顶 RLE-Bench 4 项机器人任务，总分 72.4 逼近 GPT-6 Astra — daibond_alpha · 2026-10-30