307M 参数小模型 LateOn，在评测中击败 26 倍大的 Qwen
lateinteraction · x · 2026-08-27
实验展示了 307M 参数的极小模型 mLateOn（基于 Late Interaction 技术），在零样本情况下也能在 nDCG 指标上击败所有单向量方法，包括比它大 26 倍的 Qwen3-Embedding-8B。微调后的医疗版 mLateOn-med 甚至能在索引存储空间小于 Qwen3 的前提下，处理数亿 Token，证明了 Late Interaction 在质量与存储开销上的优势。
所属事件:307M 参数小模型凭 Late Interaction 检索击败 26 倍大模型(3 条相关)→
「模型」频道最新
- Qwen3.8 27B 量化评测：4-bit 表现稳健，1-bit 崩溃 — pmigdal · 2026-08-27
- GLM-5.3-Flash 评测：成本仅大模型 10%，登顶性价比 frontier — ArtificialAnlys · 2026-08-27
- Google 公布 Gemini 3.7 Flash 定价详情 — OfficialLoganK · 2026-08-27
- Unsloth 推出 GLM-5.3-Flash GGUF 量化版 — unsloth · 2026-08-27
- N-Gram 表格技术能否改变本地大模型格局？ — AcreMakeover · 2026-08-27
- Qwen3.8-Flash-Next 在 M5 Max 128GB 上的实测数据 — Pyros-SD-Models · 2026-08-27