FlexUMM 论文:统一多模态模型表征空间其实并不统一

jindong_wang92 · x · 2026-10-30

王金栋团队发布 FlexUMM(arXiv:2610.22682),指出统一多模态模型(UMM)在嵌入空间中其实并不真正统一:共享嵌入的结构性统一只能强制模型以统一方式学习,但嵌入本身对不同任务有偏好——一部分偏向理解,一部分偏向生成。

论文核心主张:现有 UMM 对不同输入和功能沿用固定的深度与参数共享模式过于僵化,更有效的统一应当共享跨功能通信所需的计算,同时让任务/输入特定的容量专门化。FlexUMM 动态决定何时保留共享计算、何时路由到专门容量、何时提前停止处理,在两个轴上同时受益:

FlexUMM 是模型无关的功能插件,可让现有 UMM 更强更高效,代码已开源。

所属事件:FlexUMM 论文指出统一多模态模型嵌入空间并不统一(2 条相关)→

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →