LightOn发布多语言检索模型mDenseOn与mLateOn,完全开源28亿训练对
antoine_chaffin · x · 2026-07-30
LightOn 团队发布了 mDenseOn 和 mLateOn 两款完全开源的多语言检索模型(307M 参数)。
- 数据与训练:通过将经过验证的英文数据配方翻译为 8 种语言,构建了包含 28 亿对数据的预训练集和 1630 万样本的微调集,覆盖自然语言与代码。
- 性能表现:在 BEIR(英文)、MIRACL(多语言)和 MLDR(长上下文)等基准上达到 SOTA。多语言能力并未牺牲英文性能,mLateOn 在 BEIR 上得分 57.56。
- 泛化能力:实验表明,基于 late interaction 架构的 mLateOn 对训练时未见过的语言具有极强的零样本泛化能力,在 MIRACL 未见过语言上得分 67.59,远超 mDenseOn 的 57.42。
团队同步开源了模型、数据集和训练代码。
所属事件:LightOn 发布开源多语言检索模型并开放 28 亿对训练数据(8 条相关)→
「模型」频道最新
- Google发布Gemini Robotics 2,赋能机器人全身控制与协作 — GoogleAI · 2026-07-30
- DeepMind 长文详解 Gemini Robotics 2:实现机器人全身智能与灵巧协作 — GoogleDeepMind · 2026-07-30
- DeepMind 三款新模型驱动机器人全身智能 — GoogleDeepMind · 2026-07-30
- DeepMind 发布 Gemini Robotics 2:赋能人形机器人全身控制与多机协作 — GoogleDeepMind · 2026-07-30
- Google DeepMind 发布 Gemini Robotics 2 — GoogleDeepMind · 2026-07-30
- P-Image-Ideogram 登顶图像生成性价比前沿 — _akhaliq · 2026-07-30