清华团队证明:普通 Flow Matching 采样无法突破固定深度模型表达力上限
SQZ · hf · 2026-10-16
上海期智研究院与清华大学团队的论文,从电路复杂度视角研究视觉推理中的 flow matching。
核心结论:近期工作尝试让模型通过直接生成图像来「以生成做推理」,直觉上迭代采样器(如 flow matching)的每一步都像一个推理步骤。但论文证明:只要模型输出满足一定的温和正则性条件,vanilla flow matching 采样器的轨迹就可以被常数轮数的并行模型评估所模拟——即增加采样步数无法提升常数深度主干模型在标准 transformer 复杂度模型下的表达能力。
出路:作者提出 self-conditioning(自条件化),让 flow matching 在迭代采样中获得超越常数深度上限的更深序列推理能力,实现更强的视觉推理。
「研究」频道最新
- WEDGE 框架:用导航智能体自身失败生成针对性训练环境 — mohitban47 · 2026-10-16
- 上交大 AutoLab 发布 Drive3R:流式 3D 重建基础模型瞄准自动驾驶 — AutoLab-SJTU · 2026-10-16
- 独立研究者发布 Cortex:用重放实测自动进化与修剪编码 Agent 的 skills 和 rules — Samuele Giampieri · 2026-10-16
- 团队用「零延迟实验室」测出 agent 药物发现是否靠预训练记忆作弊 — niloofar_mire · 2026-10-16
- 2.6 亿参数循环扩散模型反超 6 倍大小基线,推理算力省近 5 倍 — burkov · 2026-10-16
- 斯坦福 NCM 先画草稿再并行补细节,单 H100 生成提速 21 倍 — lmoroney · 2026-10-16