新论文揭示 Embedder 困境：LLM 效果更好但成本高千倍

Muennighoff · x · 2026-08-20

新研究《Embedder's Dilemma》对比了 10 个 LLM 和 26 个嵌入模型在 37 项任务中的表现。结果显示，LLM 总分（77.6）微弱领先嵌入模型（77.2），但在重推理检索任务上优势明显。然而代价高昂：达到同等质量时，LLM 成本最高可达嵌入模型的 1431 倍（154 美元 vs 0.11 美元），且推理速度慢 2.5 至 736 倍。研究建议保留分工：相似度、分类和聚类用嵌入模型，重推理检索才用 LLM。