仅 3 亿参数实现多语言长文档检索，新模型 mLateOn 发布
antoine_chaffin · x · 2026-07-30
作者介绍了新推出的 3.07 亿参数检索模型，该模型在英语、多语言、长文档及代码检索任务上均表现出色。
核心亮点与实验结论：
- 代码检索能力：通过在自建 LateOn-Code 数据上微调，尽管没有针对代码的专门预训练，模型在 MTEB Code 基准上依然取得了 71.5 (mDenseOn) 和 73.5 (mLateOn) 的高分。
- 消融实验洞察：论文的消融实验部分显示，模型仅需少量英语/跨语言数据即可获得优秀的泛化效果。
所属事件:LightOn开源多语言检索模型mDenseOn与mLateOn(18 条相关)→
「研究」频道最新
- 8000 余名女性真实世界数据：数字化 GLP-1 减重疗法平均减重 16.1 公斤 — EricTopol · 2026-10-16
- 冻结模型写入外部记忆:Qwen 与 Mistral 上的隐藏态注入实验复现 — Nearby_Indication474 · 2026-10-16
- 2024 年 Golden Gate Claude 视频再流行:可解释性 premise 至今仍成立 — HarperSCarroll · 2026-10-16
- DeepMind 四个 Gemini Agent 27小时14分钟自主通关 Minecraft — omarsar0 · 2026-10-16
- 新论文称约90%神经元功能清晰,可解释性临近突破引激辩 — The Decoder · 2026-10-16
- MagicBeanStalk 论文：递归合成难题数据，gpt-oss-120b 数学基准提升 8.6 分 — hyunw_kim · 2026-10-16