LiteLLM 登 GitHub 热榜:Rust 核心重写,调用 100+ LLM API 的最轻 AI 网关

BerriAI · github · 2026-10-09

BerriAI 的 LiteLLM 以 60455 星(今日 +95)登上 GitHub 热门。项目定位为「最快最轻的 AI 网关」,核心用 Rust 重写,提供 Python SDK,支持以 OpenAI 或原生格式调用 100+ 家 LLM API(覆盖 Bedrock、Azure、OpenAI、Anthropic、Vertex AI、vLLM、Nvidia NIM 等),内置成本追踪、guardrails、负载均衡与日志,还可用作 MCP 网关。适合需要统一多模型接入与可观测性的团队。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →