Aurora 发布开源 Go 网关,主打 LLM 路由与安全防护
Select-Medicine-9310 · reddit · 2026-07-23
Aurora 主打用 Go 做 LLM 网关层,内置路由、缓存和护栏
作者发布了 Aurora,一个用 Go 写的开源 LLM gateway,定位是给后端 AI 应用补上一层“智能网关”。他的判断是:很多开发者不该自己硬编码 provider key、重写 failover 和路由逻辑。
帖子里列出的核心能力包括:
- 兼容 OpenAI 的统一 SDK;
- provider 路由、负载均衡和健康检查 failover;
- 语义缓存、精确缓存和 prompt 缓存;
- PII 脱敏、prompt injection 阻断等护栏;
- 托管 API key、审计日志、用量分析;
- Prometheus/Grafana 可观测性;
- Apache 2.0 的 OSS 版本,企业版支持 SSO/RBAC。
作者还宣称它在 Go 实现上比 LiteLLM 快 55 倍,并给出了 npm 和 Docker 的安装方式。
「Infra」频道最新
- Celeris 组建新实验室,押注微秒级响应的 LLM — timshi_ai · 2026-07-23
- Reddit 讨论:如何在 AI agent 跑飞前拦住账单 — Designer_Power3691 · 2026-07-23
- 一组 LLM 缓存管理资源,覆盖 KV cache 与推理解码优化 — gaganghotra_ · 2026-07-23
- RunPod 用户获得一个可提醒并自动领取 pod 的 Chrome 扩展 — Particular-Repair895 · 2026-07-23
- MiniMax 称 MI355X 服务性能已接近 B200,覆盖 428B 多模态模型 — salykova_ · 2026-07-23
- 押注基础设施支出回落的投资者,可能看错了 AI 周期 — cgarciae88 · 2026-07-23