剪层再循环策略将预训练VLM改造为循环模型

Hilde Kühne 团队联合 Iyengar 与 Andreas Geiger 发布 arXiv 论文(2610.22075),提出 prune-then-loop 策略:不从头训练,也不在循环 LLM 上加装视觉骨干,而是直接取预训练 VLM,删除语言模型部分的一组层,让剩余层循环复用以引入深度递归。结果显示该方法可节省 23.3% 的语言参数,性能反超原基线模型。

2026-10-31 ~ 2026-10-31 · 3 条相关