LLM 推理网关与路由层
NirantK · x · 2026-07-18
这条在提炼一个被低估的方向：**Inference/Gateway/Router**。 它点名了几类相关产品/方案： - 推理与网关：Baseten、Together、Fireworks - 路由/聚合层：OpenRouter、LiteLLM、Portkey / Palo Alto Networks - 支持路由能力的产品：Droid、OpenCode、Cline、Pi 核心意思是：AI 应用不只是比模型本身，**模型路由、网关、编排层**也会成为重要基础设施。