ngrok 推出 AI Gateway：一个 URL 路由本地与云端所有大模型
anthara_ai · x · 2026-09-05
ngrok 发布 AI Gateway（GOPHRS），把自托管模型与所有主流厂商模型统一到一个托管网关：只需改 baseURL 到 gateway.ngrok.ai 并换 API key 即可接入，兼容 OpenAI/Anthropic/Vercel AI SDK。
核心能力：
- 智能路由与降级：先路由自托管模型（如本地 Qwen GGUF），失败时 fallback 到 gpt-5.4、claude-opus 等公有厂商
- 本地模型直连：无需公网 IP 或入站端口即可私有连接本地 LLM
- BYOK 密钥管理：沿用自己付费的厂商密钥与价格，按应用/开发者分发作用域密钥并控制可调用的模型
- 可观测性：跨应用、开发者、模型汇总 token、延迟与错误及成本
官方称架构已定稿，定位是「不要把宝押在一个模型上」的多模型网关。
所属事件:ngrok 发布 AI Gateway，一个 URL 统一路由云端与本地大模型(7 条相关)→
「编程与Agent」频道最新
- 开发者给自己造「Rork 技术成员」agent，目标 GTA 6 前全自动干活 — rudrank · 2026-10-21
- OpenAI Live API 实用技巧：后端 sideband 连接免代理管住语音会话 — pbbakkum · 2026-10-21
- OpenAI 多语言编程基准 MultiLangBench：PHP 拿下单项最高 91.3% — ricklamers · 2026-10-21
- UserProof 让 Claude Code 直播观看用户会话录像并给出转化优化建议 — doooyle · 2026-10-21
- dphnAI 分布式推理网络日供 320 亿 DeepSeek tokens,约为 Venice 日量 6% — Ronangmi · 2026-10-21
- Superconductor 推出 agent 选择器:一键检索 8 款编码 agent 并行对比 — sergeykarayev · 2026-10-21