NeurIPS 2026论文ORCA:一个训练损失修复文生图组合错误

mo_lotfollahi · x · 2026-10-09

ORCA(已被 NeurIPS 2026 接收)针对文生图模型的组合性失败:比如要"红方块旁边蓝球",结果颜色绑错对象、空间关系颠倒、数量漂移——单个物体都画得很好,坏的是组合关系。

作者指出部分原因在文本编码器:CLIP 几乎把提示词当"词袋"读,知道有哪些概念但不知道它们如何关联;SD3 和 FLUX 加入 T5 编码器保留结构信息,但失败依旧。团队的观点是:信息其实在那里,只是训练中没有任何信号教模型把这些信息与图像外观绑定。

ORCA 通过仅训练阶段的一个额外损失补上这一信号,推理零开销。在 DiT-L/2 上,它击败了训练时长两倍的 vanilla 和 REPA 模型,颜色绑定与空间关系任务提升约 3 倍。

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →