307M 小模型靠 Late Interaction 击败 26 倍大的 Qwen 引热议

Late Interaction 检索技术引发热议：基于 2022 年 PLAID 技术的 307M 参数小模型 mLateOn 在零样本 nDCG 指标上击败所有单向量方法，包括比它大 26 倍的 Qwen 模型。但该机制的高存储开销成为主要痛点，遭到社区调侃。另有观点指出检索仍依赖点积等惰性评分函数，需指数级增加嵌入维度才能提升效果，主张引入推理扩展用于检索。

2026-08-26 ~ 2026-08-28 · 4 条相关

• 质疑检索仅用点积，称需推理扩展 — lateinteraction · 2026-08-26
• 307M 参数小模型 LateOn，在评测中击败 26 倍大的 Qwen — lateinteraction · 2026-08-27
• Late Interaction 检索性能实测：小模型吊打大模型单向量 — IgorCarron · 2026-08-27
• Late Interaction 优势虽好但存储开销引争议 — antoine_chaffin · 2026-08-28