Meta 发布 MoEMB：3B 激活参数超越 4 倍规模多模态嵌入模型

Meta 等机构发布论文 MoEMB，提出用混合专家（MoE）方法扩展通用多模态嵌入模型，而非增大表示维度、增加检索开销或堆叠成重型多模态 LLM。动机在于嵌入模型难以通过常规方式规模化。结果显示仅 3B 激活参数的 MoEMB 性能超越 4 倍规模的模型。

2026-09-09 ~ 2026-09-10 · 2 条相关

• Meta 提出 MoEMB：3B 激活参数超越 4 倍规模的多模态嵌入模型 — _reachsumit · 2026-09-09
• Meta 论文 MoEMB:用混合专家扩展通用多模态嵌入 — tomaarsen · 2026-09-10