307M 参数小模型 LateOn，在评测中击败 26 倍大的 Qwen
lateinteraction · x · 2026-08-27
实验展示了 307M 参数的极小模型 mLateOn（基于 Late Interaction 技术），在零样本情况下也能在 nDCG 指标上击败所有单向量方法，包括比它大 26 倍的 Qwen3-Embedding-8B。微调后的医疗版 mLateOn-med 甚至能在索引存储空间小于 Qwen3 的前提下，处理数亿 Token，证明了 Late Interaction 在质量与存储开销上的优势。
所属事件:307M 小模型靠 Late Interaction 击败 26 倍大的 Qwen 引热议(4 条相关)→
「模型」频道最新
- Nat Lambert 爆料：Nvidia、HuggingFace 预告近期密集发布 — natolambert · 2026-10-15
- 马斯克转发用户实测：Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- DeepSeek 服务故障按消费全额赔付，博主晒 195 元赠金 — AlchainHust · 2026-10-15
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- StartLux-Decision 发布:RL 训练的校准决策模型,27B 得分 72.8 — startlux-models · 2026-10-15
- Meta Muse Code 用量遭吐槽：5 小时额度仅剩 21% — ThomasScialom · 2026-10-15