ngrok 发布 AI Gateway，一个 URL 统一路由云端与本地大模型

ngrok 发布 AI Gateway，把各家云端大模型 API 与自托管模型收进同一个托管网关，主打「Never bet on one model（不押注单一模型）」。多个独立帖子（m1–m7）转述了同一发布，信息一致。

已确认

• 接入方式极简：把 SDK 的 baseURL 改为 gateway.ngrok.ai 并换用 ngrok 的 API key，即可兼容 OpenAI/Anthropic/Vercel AI SDK 等既有工具，无需部署、无需 VPN、无需分别集成。
• 切换模型只改 model 参数：通过同一网关可调用本地模型与 OpenAI、Anthropic 等云端模型。
• 本地模型接入场景：@smohinii 的介绍线程提到，笔记本上的 Ollama、服务器上的 vLLM、防火墙后的微调模型都能接进同一网关，无需公网部署或搭建隧道，避免为多模型管理多套 API、密钥、SDK 和计费账户。
• 内置能力：网关自带可观测性与访问控制；有演示展示了通过同一网关同时接入本地模型与云端模型的过程。

为什么重要

此前在本地与云端多家模型之间切换，往往需要分别集成、各自管理鉴权与网络。AI Gateway 用一个 URL 抹平了这些差异，降低了多模型路由、迁移与混合部署（本地+云端）的成本，对需要在厂商间保持灵活、避免锁定的团队尤其有吸引力。

2026-09-03 ~ 2026-09-05 · 7 条相关

• 【源头】ngrok 推出 AI 网关:一个 URL 统一路由本地模型与 OpenAI — anthara_ai · 2026-09-03
• ngrok 推出 AI Gateway:一个 URL 统一路由云端与本地模型 — anthara_ai · 2026-09-04
• 【源头】ngrok AI 网关:云与本地模型一个 URL 直连 — s_mohinii · 2026-09-04

另有 4 条近重复转述:anthara_ai · s_mohinii · anthara_ai · anthara_ai