人大提出 LoopVL:循环 Transformer 视觉语言模型胜过更大非循环模型
RUC · hf · 2026-10-01
RUC 团队提出 LoopVL,探索 Loop Transformer 能否有效扩展到视觉语言模型。
核心设计: 结合 Module-Loop 与 Model-Loop 两种计算方式,通过共享模块迭代更新统一的视觉-语言状态,并从零开始完成语言预训练、多模态训练与后训练三阶段训练。
结果:
- 在多模态理解与视觉推理基准上超越一系列同等规模甚至更大的非循环模型
- 观察到「视觉顿悟时刻」(Visual Aha Moments):跨循环中视觉注意力发生显著跳变
这项工作为循环式视觉语言建模提供了实践证据,展示了共享参数如何支持在持续演化的视觉-语言状态上进行更深层的多模态计算。
「多模态」频道最新
- Qwen 图像 2.1 与 Minimax H3 实测:老照片修复与写实化转换 — Ant_6431 · 2026-11-16
- Minimax H3 视频生成演示:Cubee 店面镜头第二版 — JahJedi · 2026-11-16
- 不会画画的开发者用 Fable 5.2 四小时做出 14 章手绘风故事书游戏 — jradoff · 2026-11-16
- Minimax H3 Image 训练人物 LoRA 相似度差,同数据集在 Qwen 2.1 上表现优异 — Ad_Organic · 2026-11-16
- Seedance 生成地铁车厢动画片段,光影细节惊到 Reddit 网友 — Ok-Solution-7889 · 2026-11-16
- 推主用 AI 重制 1977 版《黑衣人》风格画面 — techhalla · 2026-11-16