开源 Routed:本地 CPU 零成本离线路由 Agent 技能,1 秒内完成
iAmQubick · reddit · 2026-09-07
开发者 iAmQubick 发布开源项目 Routed,解决 Agent 技能路由的两难:把技能全塞进 system prompt 会毁掉上下文窗口,用 LLM 路由则花钱、耗 token、增加延迟。
Routed 是本地优先的混合路由器,在 CPU 上离线完成技能匹配、零 token 成本,整体查找 1 秒内完成且不外发任何提示词数据。混合打分管线包括:
- 稠密向量嵌入(60%):量化 ONNX 模型(Arctic Embed S / MiniLM)本地运行
- 词法 BM25(25%):严格关键词相关性
- 精确/别名匹配(10%):直接命令与别名
- 元数据(5%):近期与使用频次启发式
支持 Cursor、Claude Code、LM Studio、Ollama、Windsurf、OpenCode、Continue、Codex 等环境,提供 macOS/Linux/Windows 安装包,浏览器可试在线 demo。
所属事件:开源工具 Routed:纯 CPU 离线 20ms 完成 Agent 技能路由(2 条相关)→
「编程与Agent」频道最新
- 用 1024 字节 C 代码写出 Python 解释器:递归下降解析器的极限挑战 — AustinZHenley · 2026-09-07
- OpenAI 事件后 AI 智能体自建共享记忆,HAIDAA 尝试规范化 — WrongTechnician · 2026-09-07
- 开发者把 Codex 与 Claude 接进同一频道互相协作,Pro 版将收费 — jasonkneen · 2026-09-07
- 用便宜模型盯着 Agent 转录,能否提前拦截越狱事故 — rhaivn · 2026-09-07
- 微软上交大开源 Argus:让 Agent 连续自主研究数天的运行时 — 机器之心 · 2026-09-07
- 9 月 27 日黑客松:探索开源、个人化、可组合 AI — floguo · 2026-09-07