开源 Routed:20ms 内零 token 完成 Agent 技能路由,纯 CPU 离线跑
iAmQubick · reddit · 2026-09-07
开发者发布开源工具 Routed(MIT 协议),解决 agent 工作流中技能路由的两难:把所有 skill 塞进 system prompt 撑爆上下文,或用 LLM 路由一次花 1000+ token、增加 2 秒以上延迟。
工作原理:四路混合打分——本地 CPU 上的量化 ONNX 向量嵌入(60%,Arctic Embed S / MiniLM)+ BM25 关键词匹配(25%)+ 精确/别名匹配(10%)+ 元数据(5%),整个查找 20ms 内完成,提示词数据不出本机。
支持环境:自动检测并注入 Cursor、Claude Code、LM Studio、Ollama、Windsurf、OpenCode、Continue、Codex 等十余个环境,聊天中用 /route 动态触发技能,支持复合意图匹配多个技能。
v1.1.0 新增:MCP Server 模式——本地模型只看到一个 routeskill 工具,按需注入单个 skill schema,避免装载 20+ 工具定义;嵌入管线原生支持 100+ 语言输入。提供 macOS/Linux/Windows 预编译包。
所属事件:开源工具 Routed:纯 CPU 离线 20ms 完成 Agent 技能路由(2 条相关)→
「编程与Agent」频道最新
- Agent 委派的隐形税:每次 handoff 都有变异性,关键任务要用大模型 — brandon_galang · 2026-09-07
- RootCrak 上线 Preflight:AI Agent 用 x402 按次付费做连接前安全扫描 — Thionne_WTZ · 2026-09-07
- 开源 MathKernel MCP:160+ 数学工具给结果打信任标签,拒绝伪装证明 — Staatsgeheim_ · 2026-09-07
- Mux×Resend 办邮件自动回复黑客松,胜者获全额资助赴 Resend Forward — philnash · 2026-09-07
- yacine 给 dingcad 加建模 API,直接生成风管模型 — yacineMTB · 2026-09-07
- 实测 Astra 用 28 分钟在 Blender 生成哥特墓园全套 3D 资产 — nptacek · 2026-09-07