Ollama 自托管网关补上认证和配额
Regular-Forever5876 · reddit · 2026-07-20
作者做了一个自托管网关 ollama-gateway,放在一个或多个 Ollama server 前面,补上 认证与访问控制。
主要功能包括:
- 按客户端发放 API key,支持哈希存储、只显示一次、可撤销,以及 IP/CIDR 绑定。
- 配额与限流:月度 token 上限、速率限制,还能做按成本上限的试用额度。
- 多上游路由:一个 key 可以映射到本地或远程 server,并在故障时自动切换。
- 模型/API 白名单:兼容原生 Ollama、OpenAI-compatible 和 Anthropic endpoint,但会拦住 pull/delete 等管理操作。
- 日志与监控:请求级日志、使用趋势图、按模型统计,以及请求内容查看/grep。
- 部署与安全:仅限局域网的管理面板、Caddy TLS、Docker 化、远程 token 加密存储,并带预部署安全扫描。
项目是 source-available,不是 OSI 许可;商业阈值是每月 10 亿 token 以内免费。
所属事件:Ollama自托管网关补齐认证与配额功能(2 条相关)→
「编程与Agent」频道最新
- qwen-code 发布 v0.26.1 nightly 版,新增会话权限规则与自动批准 — qwen-code-review-bot · 2026-10-27
- Mitsuhiko 睡前收拾:白天和孩子用 AI 做的小游戏代码 — mitsuhiko · 2026-10-27
- 「下载品味 skill」是 AI 时代最大的谎言:代码贬值,眼光升值 — aryanXmahajan · 2026-10-27
- Agent Buddy 桌面小机器人:一眼看清后台 AI Agent 状态 — DanWahlin · 2026-10-27
- 大学生开源 kimo:用 MCP 类型化工具调用让 AI agent 驱动无 GUI 视频剪辑 — LieTop7965 · 2026-10-27
- 周末搭好的 RAG 系统半年后变成全职苦差,Stack Overflow 来接盘 — pchandrasekar · 2026-10-27