Giga-Embeddings：稀疏 10B MoE 文本编码器吞吐量提升 2.65 倍

_reachsumit · x · 2026-08-26

Egor Kolodin 等人发布了 Giga-Embeddings 模型系列，旨在结合强大的检索质量与高效的推理性能。其核心模型是一个稀疏的 100 亿参数混合专家（MoE）编码器，每个 Token 激活约 18 亿参数。在 MTEB 基准测试（涵盖英语、俄语、多语言和代码）中，该模型表现优异。在 vLLM 基准测试（1024 Token 输入）中，其处理速度达每秒 11.45 万 Token，比密集 3B 模型高 25%，比外部系统快 1.56-2.65 倍。该系列还包括密集 3B 编码器和蒸馏后的 480M 编码器，后者在俄语 MTEB 上得分为 70.98，超越 FRIDA 且参数减少 42%。所有模型检查点均已开源。