MMGR 基准:视频模型解迷宫成功率仅 3%,视觉好不等于会推理
zhaofeng_wu · x · 2026-10-25
MMGR(EMNLP 2026,arXiv:2512.14691)提出统一基准,检验图像/视频生成模型是「真推理」还是只产出看似合理的画面:覆盖抽象推理、具身导航、物理常识 3 大领域 10 个任务、1835 个样本,考察物理/逻辑/2D/3D 空间/时间五类推理,并要求中间帧构成有效推理步骤(process-aware chain-of-frame)。
主要发现:
- 视觉质量与推理正确性严重脱节:顶级视频模型在 Maze 上成功率仅约 3%,Sudoku 约 0%;物理常识总体成功率不到 4%;
- 视频模型在具身导航部分任务可到 60-80%,但迷宫会改墙、3D 轨迹漂移;
- LLM/VLM 基线在符号推理(Sudoku 65.53、ARC 74.14)反而远强于生成模型;
- 消融显示过程成功率(37.14%)显著低于仅看终态(65.17%),说明「答案对」不代表「过程对」。
作者团队来自 Wisconsin、UCLA、MSU、Utah、Adobe、Microsoft 等,将在 EMNLP 2026 布达佩斯 10 月 25 日海报展示。
「多模态」频道最新
- MiniMax H3 语音参考被指失效:ref2va 只能原句直通,换句即随机音色 — Beneficial_Fish_7509 · 2026-10-25
- 独立开发者开源人脸生成模型 Visage-Image:自训窄域 VAE 在 iFID 上超 FLUX.2 — Sherstnyov · 2026-10-25
- X 老炮预测:IG 将涌现有 AI 动画号,Claude 剪片有专属音效 — ChrisGPT · 2026-10-25
- AI 重制《海豚 Ecco》:复古游戏变电影级画面 — demondisc · 2026-10-25
- 斯坦福 AI 教育者晒 Synthesia 数字分身,发起 A/B 你能分辨吗 — HarperSCarroll · 2026-10-25
- ComfyUI做海报信息图:如何选带边界框的模型辅助排版 — reeight · 2026-10-25