剪层再循环策略将预训练VLM改造为循环模型
Hilde Kühne 团队联合 Iyengar 与 Andreas Geiger 发布 arXiv 论文(2610.22075),提出 prune-then-loop 策略:不从头训练,也不在循环 LLM 上加装视觉骨干,而是直接取预训练 VLM,删除语言模型部分的一组层,让剩余层循环复用以引入深度递归。结果显示该方法可节省 23.3% 的语言参数,性能反超原基线模型。
2026-10-31 ~ 2026-10-31 · 3 条相关
- 剪层再循环:预训练 VLM 改造成循环模型,语言参数省 23.3% 反超基线 — HildeKuehne · 2026-10-31
- 剪枝再循环:把预训练 VLM 改造为循环模型的新论文 — HildeKuehne · 2026-10-31
- 循环视觉语言模型改造法:剪层加递归,参数省 23.3% 反超原基线 — HildeKuehne · 2026-10-31