小分类模型驱动 MCP 路由：成本降九成、提速超七成

AI/ML API 团队基于新型小型分类模型 Jev（JSON 输入、概率输出的快速廉价分类器）构建了 MCP 路由器：Jev 先审视请求再决定由哪个模型处理，短消息无需动用昂贵模型。实测显示成本降低 90%、速度提升 76%。该路由器将 10,000+ 工具与模型聚合在一个 MCP 服务器之后，由 Typesafe 的 Jev 为每个请求选择处理方式。

2026-10-28 ~ 2026-10-28 · 2 条相关

• AI/ML API 推出单一 MCP 连接器，聚合上万工具与模型做路由 — rohanpaul_ai · 2026-10-28
• 团队用小分类模型做 MCP 路由，实测成本降 90%、提速 76% — Fun-Meaning-6474 · 2026-10-28