ngrok 推出 AI Gateway:一个 URL 统一路由云端与本地模型

anthara_ai · x · 2026-09-04

ngrok 发布 AI Gateway,把各家云端模型与自托管模型收进统一网关:只需把 baseURL 改为 gateway.ngrok.ai 并换 API key,即可兼容 OpenAI/Anthropic/Vercel AI SDK;支持先路由本地模型、失败回退云端供应商的 fallback 链。自带 BYOK(沿用现有供应商 key 与费率)、按应用/开发者细分的访问控制 key、以及跨调用聚合的 token/延迟/成本可观测性;本地模型经私有连接接入,无需公网 IP 或端口映射。

所属事件:ngrok 推出 AI 网关,一个 URL 统一路由各类模型(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →