OpenAI Web Search 注入 87% token 可能白费，本地管线准确率仍达 96%
Remote-Breadfruit204 · reddit · 2026-07-24
作者认为，OpenAI 的 web search 在 agent 循环里可能“看起来便宜、实际很贵”，因为它会把大量检索结果塞回上下文，模型推理成本反而变成大头。
他自己做了一套本地、免费的检索管线，包含：
- 多引擎搜索与 RRF 融合
- 本地网页抓取
- BM25 + 向量混合检索
- cross-encoder 重排
- 句子级压缩
- 精确缓存与语义缓存
在 OpenAI 的 SimpleQA 子集上，他给出的结果是：
- 准确率 96%，与托管搜索持平
- 注入上下文 token 减少 87%
- 仅做句子级压缩就能把结果 token 大约减半，且未观察到召回损失
- 语义缓存能让改写后的重复问题几乎免费
- 一组 16 次 检索循环节省约 $1.49
帖子还附了 GitHub 仓库和评测报告链接。
所属事件:开源 Webfetch 助力智能体搜索降本增效(4 条相关)→
「编程与Agent」频道最新
- AIE Code Summit 2026 开放申请:仅收 800 人,keynote 全程免费直播 — trq212 · 2026-10-27
- 十年云架构师：企业 AI 架构远不止加一个 LLM — kashifmanzoor · 2026-10-27
- TRL 上线 Score Centering：直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- 预计算标准答案：团队重复问答的缓存式解法 — colinmcnamara · 2026-10-27
- 开发者观点：与 agent 交互式协作仍有未被挖掘的价值 — alex_frantic · 2026-10-27
- 研究者发起 AMA:揭秘「平民开发者」用 AI Agent 自动化企业工作 — Loose_Rip359 · 2026-10-27