团队 Key 各自为政,Reddit 求企业 LLM 网关选型经验

almost1it · reddit · 2026-09-18

一位 Reddit 发帖人描述了公司内部的 LLM 接入乱象:每名成员各自持有 Claude、OpenAI、AWS Bedrock 等多个推理服务商的 API Key,用量追踪、预算管控和工具访问权限完全缺失。

团队目前规模尚小还能管理,但随招聘扩张必须尽快收敛。他在征求大家的 LLM Gateway 选型方案,用于统一模型访问入口。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →