532 个 MCP 工具压成 4 个:mcp-search-proxy 用 BM25 省 60 倍上下文
pisa_p · reddit · 2026-09-12
作者在 OpenWebUI 前用 LiteLLM 聚合 21 个 MCP server、共 532 个工具,但每轮对话都注入完整 schema,约 179k token,即使模型根本不需要工具。
方案:自建 mcp-search-proxy 插入中间层,只暴露 4 个工具——
- search:对缓存的工具清单做 BM25 检索
- describe:取最多 10 个工具的完整 schema
- call:路由到正确的上游 server
- refresh:重建索引
效果:同样能力下上下文从约 179k token 降到 2-3k(约 60 倍缩减);560 个工具只占 1.8k 字符。纯本地 BM25,无 embedding、无内置 LLM;按上游保持 sticky session,让有状态的浏览器 server 跨 navigate/scan/snapshot 正常工作。
适用边界:100+ 工具且多数轮次只需 0-1 个工具时值得;少于 30 个工具不划算;仅词法检索、无语义搜索。Docker Compose 部署,MIT 协议,仓库已开源。
「编程与Agent」频道最新
- Anthropic 团队用 Claude 值班：告警触发即定位根因并提修复 — ClaudeDevs · 2026-09-12
- 用 Codex 直播 AI 全天玩 Minecraft,目标是自主建自动养鸡场 — nickbaumann_ · 2026-09-12
- 与 AI Agent 共事为何更累:委托不减反增心智负担 — bendee983 · 2026-09-12
- 用户称 Codex 已成 Linux 系统管理主界面:「Codex, 修好它」 — mark_k · 2026-09-12
- Alchemy 推出 distilled 项目:把各大 SaaS 文档蒸馏成统一 SDK 供 Agent 调用 — samgoodwin89 · 2026-09-12
- 1700 个任务做 RL，Kimi K2.7 五项编码评测全线大涨 — echen · 2026-09-12