团队用小分类模型做 MCP 路由,实测成本降 90%、提速 76%

Fun-Meaning-6474 · reddit · 2026-10-28

ai/ml api 团队基于新出的小型分类模型 Jev(JSON 输入、概率输出的快速廉价分类器)做了一个 MCP 路由器:Jev 先看请求,决定该由哪个模型处理——短消息不付 Opus 价格,让便宜模型接手,需要时再换更强的模型。它同时路由 1000+ 个 agent 工具(Reddit/Twitter 抓取、YouTube 字幕、SEO 数据等),都走同一个 API。

团队实测:成本最高降 90%,速度提升 76%。支持远程 MCP 的 agent 可接入,覆盖 70+ 供应商的模型,项目还处于征集反馈和命名阶段。

所属事件:小分类模型驱动 MCP 路由:成本降九成、提速超七成(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →