VCSD 去掉外部 teacher，Qwen3-VL 三个尺寸都涨分
UMCP · hf · 2026-07-24
这是什么
VCSD（Visual Contrastive Self-Distillation） 是一种面向视觉语言模型的 on-policy 自蒸馏方法，目标是去掉外部 teacher，以及答案、视觉证据等额外监督信号。
核心思路
- 在每个学生生成的前缀上，让 EMA teacher 在同一 prompt/prefix 下跑两次：
- 一次输入原始图像
- 一次输入内容擦除后的控制图像
- 通过两次输出的 token 级对数概率差，找出“由图像内容额外支持”的 token。
- 再用这个对比信号去锐化 teacher 在原图上的分布，并把这个更好的目标分布蒸馏给 student。
实验结果
在 ViRL39K 上，VCSD 在 Qwen3-VL 和 Qwen3.5 系列上都稳定优于对照 OPSD。
- Qwen3-VL 2B： 62.27% → 67.04%
- Qwen3-VL 4B： 71.30% → 73.16%
- Qwen3-VL 8B： 72.51% → 76.26%
价值
它只需要图像和问题，不需要额外推理时成本，也不依赖外部 teacher、答案、证据或 reasoning traces。
「多模态」频道最新
- Magnific 预告 10 月 28 日上线新功能：「We're making it move」 — cuenca · 2026-10-27
- Midjourney --sref 实测：美式复古风 Batman 插画三连 — gizakdag · 2026-10-27
- AI视频既非电影也非动画，创作者称它最擅长呈现梦境与潜意识 — Kyrannio · 2026-10-27
- 把儿子 31 年前的童言写成歌再喂给 SUNO：一首「大象饮料」儿童合唱 — NathanpmYoung · 2026-10-27
- RTX 3060 本地产 AI MV 播破 20 万:900 张图留 64 张,3 秒切片防崩脸 — Hwang0500 · 2026-10-27
- Firefly 视频编辑器实测：一句话 Quick Cut 将 32 秒素材剪成 20 秒 — LudovicCreator · 2026-10-26