LangSmith LLM Gateway 公测:统一管理多模型调用、成本与安全
LangChain · x · 2026-07-31
LangChain 宣布 LangSmith LLM Gateway 正式开启公测。这是一个位于 Agent 和底层模型之间的集中式治理层,旨在解决生产环境中大语言模型调用面临的成本失控、宕机中断和供应商锁定等问题。
核心功能
- 成本与可靠性控制:支持设置支出上限和速率限制,追踪使用情况,并可跨任意模型或提供商配置模型回退(fallback)策略。
- 敏感数据保护:在请求到达模型提供商之前,自动对个人身份信息(PII)和密钥等敏感数据进行脱敏处理。
- 避免供应商锁定:提供统一网关,兼容闭源与开源权重模型,方便团队随时灵活更换底层服务商。
所属事件:LangChain推出LangSmith LLM网关公测(4 条相关)→
「编程与Agent」频道最新
- 相连的步骤≠工作流:Agent 跨应用交接无人把关 — usehive · 2026-10-16
- 用 Opus/Astra/Argon 生成 Blender 动画:怎么描述依然决定成败 — chongdashu · 2026-10-16
- 32GB 内存+8GB 3070 跑 PolyStrata+ Cline,约 90 tok/s — rpwoerk · 2026-10-16
- 模型能力还是基础设施?Agent 评测的分层归因难题 — jrxna · 2026-10-16
- 让 Claude 读完书和高手代码再写 claude.md,「已比我写得好」 — blaizedsouza · 2026-10-16
- Claude Code 插件 /label:一步自动命名并着色会话 — hermanschutte · 2026-10-16