本地向量路由 100k 工具 top-1 达 70.7%、延迟 9.6ms，吊打 BM25
Key_Coconut_9269 · reddit · 2026-10-27
作者质疑主流 multi-agent 架构把工具发现交给云端 LLM：接 4-5 个 MCP server 就有 40-50+ 工具 schema，langchain/claude code 的标准做法是每轮把 4000+ token 的 JSON schema 塞进 prompt，只为让模型选函数——花 token 还要约 2 秒网络延迟，本质只是一次 L7 路由查询。
他用本地 CPU 向量网格（all-MiniLM-L6-v2 + chromadb HNSW）+ 分离执行守护进程做了解耦测试，关键技巧是把工具名、描述、schema 键和 tags 合成单一 profile 向量，而非只嵌入函数名（同义词会失败）。冷缓存基准（10 万合成工具端点、纯 CPU）：
- 朴素关键词扫描：top-1 38.1%，46.4ms
- BM25：40.4%，194ms
- 本地向量网格：70.7%，9.56ms（p95 11.4ms）
- 内存快速路径：延迟 0.082ms
「编程与Agent」频道最新
- OpenAI、谷歌、Anthropic 拟建 FINRA 式 AI 自律机构 — emmanuelvivier · 2026-10-27
- IBM 给每个 AI 代理发可验证身份:最小权限加实时吊销 — emmanuelvivier · 2026-10-27
- 提示词一个词定语言：要『简单』给 Python，要『快』给 Rust — rseroter · 2026-10-27
- NewMax 支持BYOK跑优化版 Claude Code,号池密钥全管理 — yangyi · 2026-10-27
- Vibecoder 用 AI 做出纽约私募基金持有餐厅互动地图 — Polymarket · 2026-10-27
- 让 ChatGPT 主动引用你网站：6 条 AEO 实操清单 — jamesbrooksco · 2026-10-27