10 个把所有 AI 模型收进一个 API 的开源网关,LiteLLM 领衔 60K 星
victor_explore · x · 2026-10-12
一份 GitHub 开源项目合集:把各家 AI 模型统一到一个 OpenAI 风格 API 背后的 10 个网关/路由项目(star 数为 2026 年 10 月数据):
- LiteLLM(60K star, MIT):一个 API 调 100+ 模型厂商,支持密钥、预算、fallback 与负载均衡
- New API(49K, AGPL 3.0):自托管多模型枢纽,兼容 OpenAI/Claude/Gemini 格式,带配额与计费
- Claude Code Router(38K, MIT):本地网关,让 Claude Code/Codex/OpenCode 用任意模型厂商,支持 fallback 与密钥轮换
- Experiential(10K, Apache 2.0):自有密钥网关,从流量学习自动选更便宜的模型
- Bifrost(9K, Go 编写):高性能网关,带 fallback
- Plano(7K):用小模型路由 prompt 的代理
- vLLM Semantic Router(6K):按策略为每次调用选模型
- Weave Router(6K):硬步进到大模型、易切到便宜模型
- AxonHub(5K):带 tracing 的自托管网关
- AgentRouter(2K):面向 AI/agent 流量的 Kubernetes 网关
「编程与Agent」频道最新
- OmniRoute:让 Claude Code 接入 200+ 供应商自动切换省钱 — hunain8007 · 2026-10-12
- 程序员用 Claude Code 写出 HD-2D 冒险游戏当生日礼物 — rubenrb02 · 2026-10-12
- Jay Alammar 与 Maarten 新书《图解 AI Agents》出版,含 300 余幅原创插图 — MaartenGr · 2026-10-12
- 仅花约 1000 美元算力,从零训练的 1.7B 编码 agent 登顶 nanoswe 纪录 — OfirPress · 2026-10-12
- 给 AI Agent 授权个人账号,我们是不是太随便了? — TheObeisantLaurels · 2026-10-12
- 程序员手腕疼怎么办:轻量腕部训练+语音转文字配 Agent 继续干活 — mgostIH · 2026-10-12