QuixiGate:Rust 打造的高速 LLM 网关,支持本地模型

QuixiAI · x · 2026-11-14

QuixiGate 是一个用 Rust 编写的快速 LLM 网关,基于 lazy-hq/aisdk 构建。支持所有主流供应商、OpenRouter,以及 OpenAI 和 Grok 的 OAuth 订阅;集成了 OpenTelemetry 和 Arize Phoenix 可观测性,数据归用户所有。提供 UI 和 headless 两种模式,并支持 Ollama、LM Studio、llama.cpp 等本地模型,可配置用量超限后从订阅回退到云端/本地的降级策略。

所属事件:QuixiAI 开源 Rust 版 LLM 网关 QuixiGate(5 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →