Cloudflare AI Gateway 可按模型名动态路由 LLM 调用

craigsdennis · x · 2026-07-27

一条帖子展示了如何用 Cloudflare AI Gateway 把复杂的动态 LLM 路由做进网关里，甚至只要把 model 当作 route name 传进去即可。

配图里是一条 dynamic/route 流程：先按 plan == paid 分流，再根据 metadata.userId 之类的条件做 budget limit 或 rate limit，最后在多个模型之间 fallback，包括 Anthropic 和 OpenAI 的几个模型。核心信息是：路由决策可以从应用代码里抽出来，交给网关配置来完成。