0.14T token 对抗 36T：人大百度等提出 LoopVL，循环视觉模型现「视觉顿悟时刻」
机器之心 · wechat · 2026-10-19
中国人民大学、百度、上海交大、清华等机构团队提出 LoopVL，将循环架构（LoopTransformer）扩展到视觉语言模型，论文、代码与权重均已开源。
核心设计：沿用 HRM-Text 分层循环架构，1B 语言主干划分为各含 16 层的 L/H 模块，默认 [L×3→H]×2 配置，32 套独立 Transformer 层展开为 128 次层调用；图像仅编码一次，视觉状态随循环持续更新。
数据效率：仅用 0.14T 训练 token（约为 Qwen3.5-2B / InternVL3.5-2B 的 1/260），在 MMMU-Pro、MathVision 等多项评测上达到甚至超过这些模型。同预算受控对比中，LoopVL 在八项评测的五项同时超过约 4B 的深度/宽度扩展基线。
关键发现——Visual Aha Moment：在两轮 Model-Loop 交界处（第 63→64 次层调用），注意力 Gini 系数从 0.405 跃升至 0.858，模型从分散的视觉关注转向集中关注，第一轮受较少关注的重要视觉 token 在第二轮跃入注意力前 25%。即使共享相同参数，模型也在不同循环中重新分配视觉注意力。干预实验（阻断/冻结/重训只读版本）证实视觉状态更新是循环计算有用的组成部分。
限制：循环次数不能随意增加——固定训练权重改为 H3L3/H4L3 调度后 MMStar 从 63.47 降至 58.20/24.00，训练与推理调度需一致。作者也强调参数复用不等于推理开销更低（128 次 vs 32 次层调用）。
研究为多模态模型「学会分配计算」和智能体的自适应感知-推理提供了新方向。
「多模态」频道最新
- 开源 AI 视频预演工具 CozyClay 获作者背书推荐 — cocktailpeanut · 2026-10-23
- FastVideo 发布 FastH3-Omni 8 步加速模型，支持 ComfyUI 单文件 — FastVideo · 2026-10-23
- Kylon 推出 Annotations:一键分析任意视频并改造成你的品牌版本 — testingcatalog · 2026-10-23
- 「你什么都能看到？」无限嵌套德罗斯特效应图像惊艳 AI 圈 — yungcontent · 2026-10-23
- AI 生成斯拉夫民俗恐怖选集《Midnight Ryazh》第一集上线 — Creative_Dependent_6 · 2026-10-23
- 日本 ai& 推出视频生成：12 秒出片，每秒低至 $0.0125 — DavidBennett__ · 2026-10-23