Ollama 自托管网关补上认证和配额
Regular-Forever5876 · reddit · 2026-07-20
作者做了一个自托管网关 ollama-gateway，放在一个或多个 Ollama server 前面，补上 认证与访问控制。
主要功能包括：
- 按客户端发放 API key，支持哈希存储、只显示一次、可撤销，以及 IP/CIDR 绑定。
- 配额与限流：月度 token 上限、速率限制，还能做按成本上限的试用额度。
- 多上游路由：一个 key 可以映射到本地或远程 server，并在故障时自动切换。
- 模型/API 白名单：兼容原生 Ollama、OpenAI-compatible 和 Anthropic endpoint，但会拦住 pull/delete 等管理操作。
- 日志与监控：请求级日志、使用趋势图、按模型统计，以及请求内容查看/grep。
- 部署与安全：仅限局域网的管理面板、Caddy TLS、Docker 化、远程 token 加密存储，并带预部署安全扫描。
项目是 source-available，不是 OSI 许可；商业阈值是每月 10 亿 token 以内免费。
所属事件:Ollama自托管网关补齐认证与配额功能(2 条相关)→
「编程与Agent」频道最新
- 拆解两款真实「公司大脑」：Slite 与 Gorgias 同台对比构建之道 — femke_plantinga · 2026-09-11
- 浏览器主线程很贵:动画卡顿的真正成本与前端优化实践 — jh3yy · 2026-09-11
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11