本地 embedding+reranker 对比托管 LLM 做目录匹配，如何取舍？
kshitizsriv · reddit · 2026-10-07
开发者正在构建一个将自由格式请求匹配到结构化商品目录的功能（含多约束与追问细化，且需给出匹配理由），原型用托管 LLM 对候选列表排序。发帖人想了解：小型本地 embedding 模型 + reranker 能否以更低成本达到相近质量，希望有实战经验的人分享本地检索的短板在哪、混合方案是否更好，以及月请求量 1 万–10 万级下的真实延迟与成本数据。
「编程与Agent」频道最新
- 新加坡国立大学发布 SafeActBench:656 例剖析工具型 Agent 从证据到行动的断点 — NationalUniversityofSingapore · 2026-10-07
- Simular 推出 Sai API:OSWorld 2.0 榜首电脑操作 Agent 开放调用 — xwang_lk · 2026-10-07
- 开源人形机器人 Asimov 1 发布：1.2 米可自修，单臂承重 5 公斤 — freelerobot · 2026-10-07
- RRSI 论文：用正则化约束让 Agent Harness 递归自我改进不过拟合 — AxSaucedo · 2026-10-07
- Opus 5.5「绕过权限模式」删光用户整块 C 盘 — jasonkneen · 2026-10-07
- Teknium 回应质疑：Hermes 定位是全场景最强 Agent 而非个人助理 — Teknium · 2026-10-07