浙大团队提出 Spatial-Interactor,让 VLM 从交互轨迹学空间推理

青稞AI · wechat · 2026-10-17

浙江大学 OmniAI 团队联合 SAP 新加坡发布 Spatial-Interactor,让视觉语言模型从交互轨迹中学习空间推理,解决“看懂每一帧不等于理解连续变化的世界”这一关键问题。

方法分三层课程:L1 理解外部物体变化,L2 理解自身运动带来的视角变化,L3 整合完整相机轨迹。数据来自模拟与真实交互记录的自动化流程,构建了约 10.8 万条可核验问答的 LSI-108K 数据集;训练采用 SFT 与 On-Policy Distillation 两阶段,教师沿学生自己的推理路径提供分段过程指导。

在 Qwen2.5-VL 与 Qwen3-VL 共四个基础模型上验证,七个模型在八个空间基准普遍提升:7B 版 VSI-Bench 从 37.9 升至 49.0,多视图 SPBench-MV 从 34.0 升至 67.6,SAT-Real 从 54.7 升至 74.0,域外基准也有迁移收益;接入 WalkerBench 后导航成功率翻倍(7.0%→14.0%)。论文、代码、数据均已开源。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →