本地 web search 工具称少用 87% token、成本降 66%
Remote-Breadfruit204 · reddit · 2026-07-23
本地 web search 工具宣称少 87% token、便宜 66%
作者做了一个叫 webfetch 的本地 web search 方案，目标是替代 Anthropic / OpenAI 的托管搜索。帖子先指出，托管搜索大约是 每 1,000 次搜索 10 美元，而且每次还要把约 1.7 万 token 的结果塞进上下文，成本很高。
这个方案的核心做法包括：
- 4 个搜索引擎做 RRF 融合，再抓取本地网页
- BM25 + bi-encoder 检索 + cross-encoder rerank
- 句子级压缩，把结果 token 减半且未观察到召回损失
- 语义缓存：相近提问通过 embedding 匹配，再用 NLI cross-encoder 验证
- 缓存结果保留来源，模型也可以强制重新搜索
作者称，在 SimpleQA 上它和托管搜索一样达到 96% 准确率，但 token 少 87%、成本低 66%；一次只跑了 16 次搜索的测试循环就节省了 1.5 美元。项目已可通过 PyPI 安装，并能作为 Claude Code 的 MCP server 接入。
所属事件:本地搜索插件Webfetch号称大幅降低Agent成本(2 条相关)→
「编程与Agent」频道最新
- Anthropic 为 Claude Code 推出代码安全插件 beta — testingcatalog · 2026-07-23
- 博客称 agent 还不会做系统设计，底层工作流得先变 — tianyin_xu · 2026-07-23
- 一场关于让 agent 连续工作数天的深聊 — baseten · 2026-07-23
- Anthropic 为 Claude Code 推出安全扫描插件 beta — claudeai · 2026-07-23
- Claude Code 新增 beta 安全扫描插件 — claudeai · 2026-07-23
- Relay 更新开源多模型路由：规划、执行、复审分工 — MatthewBerman · 2026-07-23