自托管 LLM 网关 Routerly 0.6.0 发布并支持 MCP

开发者发布 AGPL 协议的自托管 LLM 网关 Routerly 0.6.0,部署在应用与模型服务商之间,应用可通过 OpenAI 或 Anthropic 兼容客户端接入,并按成本、延迟、意图等策略路由 LLM 请求。新版本还加入了 MCP 服务器,用户可从 MCP 客户端直接管理和检查网关,包括列出路由器与模型、查询用量与预算状态等。

2026-11-04 ~ 2026-11-04 · 2 条相关