ngrok 推出 AI Gateway：一个 URL 路由本地与云端所有大模型
anthara_ai · x · 2026-09-05
ngrok 发布 AI Gateway（GOPHRS），把自托管模型与所有主流厂商模型统一到一个托管网关：只需改 baseURL 到 gateway.ngrok.ai 并换 API key 即可接入，兼容 OpenAI/Anthropic/Vercel AI SDK。
核心能力：
- 智能路由与降级：先路由自托管模型（如本地 Qwen GGUF），失败时 fallback 到 gpt-5.4、claude-opus 等公有厂商
- 本地模型直连：无需公网 IP 或入站端口即可私有连接本地 LLM
- BYOK 密钥管理：沿用自己付费的厂商密钥与价格，按应用/开发者分发作用域密钥并控制可调用的模型
- 可观测性：跨应用、开发者、模型汇总 token、延迟与错误及成本
官方称架构已定稿，定位是「不要把宝押在一个模型上」的多模型网关。
所属事件:ngrok 推出 AI Gateway:一个 URL 统一路由云端与本地模型(5 条相关)→
「编程与Agent」频道最新
- OpenAI 官宣 GPT-6 Astra 黑客松：头名 5 万美元额度 — OpenAIDevs · 2026-09-05
- Astra 自动在 Figma 中实现整套设计系统，设计脏活被接管 — AIandDesign · 2026-09-05
- 新员工揭秘 Runway 内部：以 Cursor 写码为主，Figma 可选 — zielinskiwoj · 2026-09-05
- LoRA 作者发博文详解开源模型后训练与 RL 实操 — iamrobotbear · 2026-09-05
- Bot Mesh 上线：给 AI 智能体一个互认身份、互相付钱的社交网络 — Daniel_Farinax · 2026-09-05
- 想在 Codex CLI 用 GPT-6 Astra？先更新到最新版 — BLUECOW009 · 2026-09-05