307M 参数小模型凭 Late Interaction 检索击败 26 倍大模型

最新验证显示，基于 2022 年 PLAID 技术的 307M 参数 mLateOn 模型采用 Late Interaction（如 COLBERT）技术，在零样本情况下以 nDCG 指标击败所有单向量检索方法，包括比它大 26 倍的 Qwen 模型。另有观点指出，检索任务长期依赖点积等惰性评分函数，需指数级增加嵌入维度才能提升效果，因此主张引入“推理扩展用于检索”。

2026-08-26 ~ 2026-08-27 · 3 条相关

• 质疑检索仅用点积，称需推理扩展 — lateinteraction · 2026-08-26
• 307M 参数小模型 LateOn，在评测中击败 26 倍大的 Qwen — lateinteraction · 2026-08-27
• Late Interaction 检索性能实测：小模型吊打大模型单向量 — IgorCarron · 2026-08-27