kapa.ai 实测 Jev 做重排:以 0.003 之差惜败 Voyage rerank-3,胜过 Cohere 与 Qwen

srnsnemil · reddit · 2026-10-20

kapa.ai(YC S23)每月处理数百万检索查询,他们在自建的 Company Knowledge Bench(1000 个来自真实生产查询的测试用例,知识库含产品文档、Slack、工单、代码等)上对比了多款 reranker。

测试设置:GPT-6 Luna 将查询拆成 3 个子查询 → 混合检索各取 top 30 → RRF 合并取 top 50 → 交给各 reranker,按 top 10 是否满足标注标准打分。Jev 并非专门的 reranker,而是通用决策模型,作者测试了两种用法:二分类 Noul(按 yes 概率排序)和分级 Score(1–10 相关度)。

结论

该 benchmark 针对真实企业知识(过期页面、矛盾事实、多解法查询),比学术基准更贴近生产流量。

所属事件:实测 Jev 模型重排能力:惜败 Voyage 却胜过 Cohere 与 Qwen(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →