Agent 可绕过 LLM 网关直连 API 引发架构讨论

作者提出一个架构层面的问题：很多团队用 LiteLLM、Portkey、OpenRouter 等 LLM 网关统一路由、凭证、日志与限额，但网关只治理经过它的流量，持有凭证和网络权限的 agent 完全可以直连模型 API 绕开网关。因此流量控制并不等于路径治理，LLM 网关能否真正充当控制平面值得质疑，需要更强的路径级约束机制。

2026-09-09 ~ 2026-09-09 · 2 条相关

• Agent 能绕过网关直连 API,LLM 网关还算控制平面吗 — Arc_bong · 2026-09-09

另有 1 条近重复转述:Arc_bong