Ollama 自托管网关补上认证和配额

Regular-Forever5876 · reddit · 2026-07-20

作者做了一个自托管网关 **ollama-gateway**,放在一个或多个 Ollama server 前面,补上 **认证与访问控制**。 主要功能包括: - **按客户端发放 API key**,支持哈希存储、只显示一次、可撤销,以及 IP/CIDR 绑定。 - **配额与限流**:月度 token 上限、速率限制,还能做按成本上限的试用额度。 - **多上游路由**:一个 key 可以映射到本地或远程 server,并在故障时自动切换。 - **模型/API 白名单**:兼容原生 Ollama、OpenAI-compatible 和 Anthropic endpoint,但会拦住 pull/delete 等管理操作。 - **日志与监控**:请求级日志、使用趋势图、按模型统计,以及请求内容查看/grep。 - **部署与安全**:仅限局域网的管理面板、Caddy TLS、Docker 化、远程 token 加密存储,并带预部署安全扫描。 项目是 source-available,不是 OSI 许可;商业阈值是每月 10 亿 token 以内免费。

所属事件:Ollama自托管网关补齐认证与配额功能(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →