团队用小分类模型做 MCP 路由,实测成本降 90%、提速 76%
Fun-Meaning-6474 · reddit · 2026-10-28
ai/ml api 团队基于新出的小型分类模型 Jev(JSON 输入、概率输出的快速廉价分类器)做了一个 MCP 路由器:Jev 先看请求,决定该由哪个模型处理——短消息不付 Opus 价格,让便宜模型接手,需要时再换更强的模型。它同时路由 1000+ 个 agent 工具(Reddit/Twitter 抓取、YouTube 字幕、SEO 数据等),都走同一个 API。
团队实测:成本最高降 90%,速度提升 76%。支持远程 MCP 的 agent 可接入,覆盖 70+ 供应商的模型,项目还处于征集反馈和命名阶段。
所属事件:小分类模型驱动 MCP 路由:成本降九成、提速超七成(2 条相关)→
「编程与Agent」频道最新
- Agent 时代来临:工程学科边界正在消融 — yunta_tsai · 2026-10-28
- Reddit 长文:LLM 出智能、记忆出上下文、Agent 干活,SaaS 界面将被淘汰 — ThomasBuildLab · 2026-10-28
- Codex 会在后台未经提示扫描你的 MCP 连接器,你几乎无从察觉 — kenziyuliu · 2026-10-28
- UCLA 清华论文:让编程智能体用代码作画,跨接口保持一致场景表征 — ucla-cmllab · 2026-10-28
- 别锁死单一厂商:前沿模型轮替太快,agent harness 选 Hermes 或 OpenClaw 更稳 — p_e_cooper · 2026-10-28
- ArkenOS 展示「自主科学家集群」,Sam Altman 转发点赞 — _AustinCalvert_ · 2026-10-28