FlexUMM 论文指出统一多模态模型嵌入空间并不统一

王金栋(Jindong Wang)团队发布 FlexUMM 论文(arXiv:2610.22682),研究指出统一多模态模型(UMM)虽然在结构上共享嵌入以强制模型以统一方式学习,但其嵌入空间实际上并不真正统一:不同嵌入对不同任务存在偏好,部分偏向理解、部分偏向生成,统一训练会引发表征冲突。该发现为多模态统一模型的训练与设计提供了新的观察视角。

2026-10-30 ~ 2026-10-30 · 2 条相关