Mira-Scene 用像素对齐坐标图解决生成式 3D 场景布局,3D-IoU 提升 39.8%

Yang-Tian Sun · hf · 2026-09-22

单图 3D 物体生成已能产出高保真资产,但如何将其准确放入连贯的场景布局仍是难题。Mira-Scene 是一个组合式 3D 场景重建框架,用稠密、有界的对应关系恢复取代稀疏位姿回归。

核心是 Canonical Coordinate Map(CCM):一个像素对齐场,将每个可见物体像素映射到物体有界规范空间中的表面坐标。配合单目几何估计的场景空间点云图(PCM),CCM 产生稠密的规范-场景对应,再通过鲁棒几何对齐恢复物体变换。由于 CCM 在有界规范空间内运行,可仅用可规模化的物体级 3D 数据训练,无需场景级布局标注。

框架还引入多模态扩散 Transformer,以模态专属专家流加共享注意力联合生成物体几何与 CCM,促进几何-布局一致性。在室内、室外、合成与真实场景上,布局精度大幅超越强基线:3D-IoU 相对 SAM3D 提升 39.8%,2D-IoU 提升 16.5%,且仅用有限开源训练数据。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →