DeepMind 认为视频生成模型可以变成通用视觉模型
jiqizhixin · x · 2026-07-23
Google DeepMind 联合多所高校提出 GenCeption,主张把 文本到视频生成模型 当作通用视觉任务的共享骨干,而不是为每个感知任务单独训练模型。
核心思路
- 先用预训练的视频生成器学习时空结构与语言对齐。
- 再把这个 backbone 迁移到深度估计、法线预测、相机位姿、表达参考分割、3D 关键点预测等任务。
论文里报告的结果
- 在上述任务上,效果可与或优于 DepthAnything、SAM、VGGT 等专用模型。
- 也优于 V-JEPA 和 Video MAE 等预训练方法。
- 作者声称训练数据量可减少 7 倍到 500 倍。
- 只用合成的人类视频训练,也能泛化到真实世界中的动物和机器人视频。
这篇工作想传达的结论很直接:视频生成模型可能不只是生成器,也能成为通用视觉学习器。
「多模态」频道最新
- 用 Claude Code 搭视频剪辑流水线,十段 prompt 从粗剪到成片 — TawohAwa · 2026-10-26
- 一句话生成3D世界,再用AI重绘成电影级镜头 — gizakdag · 2026-10-26
- 零实拍造出一整部电影世界:CineMap 导演分镜配 TapNow 成片 — gizakdag · 2026-10-26
- 快手 Kling 对阵字节 Seedance:中国 AI 视频模型竞争观察 — DavidmComfort · 2026-10-26
- 散景宇宙星云提示词模板:虚化光球演绎星际云雾质感 — LudovicCreator · 2026-10-26
- 博主用 Runway Act-2 加 ElevenLabs 变声做出高质量 AI 视频 — AIandDesign · 2026-10-26