LangSmith LLM Gateway 公测:统一管理多模型调用、成本与安全
LangChain · x · 2026-07-31
LangChain 宣布 LangSmith LLM Gateway 正式开启公测。这是一个位于 Agent 和底层模型之间的集中式治理层,旨在解决生产环境中大语言模型调用面临的成本失控、宕机中断和供应商锁定等问题。
核心功能
- 成本与可靠性控制:支持设置支出上限和速率限制,追踪使用情况,并可跨任意模型或提供商配置模型回退(fallback)策略。
- 敏感数据保护:在请求到达模型提供商之前,自动对个人身份信息(PII)和密钥等敏感数据进行脱敏处理。
- 避免供应商锁定:提供统一网关,兼容闭源与开源权重模型,方便团队随时灵活更换底层服务商。
所属事件:LangChain推出LangSmith LLM网关公测(4 条相关)→
「编程与Agent」频道最新
- Gusto 工程团队:用评测驱动设计系统解决 AI 幻觉 — rseroter · 2026-07-31
- GitHub 官方上线堆叠式 PR 功能,支持拆分与独立合并 — 0xkarasy · 2026-07-31
- Reddit 讨论:用 DeepSeek 等低成本模型构建生产级 Agent — AIEngOmar · 2026-07-31
- YC S26 孵化项目 Marble:用 AI Agent 接管餐厅后厨 — ycombinator · 2026-07-31
- 微软发布 Echoverse:为计算机使用 Agent 打造深度演化评估环境 — Scobleizer · 2026-07-31
- Salesforce 推出 Metadata API 技能减少部署错误 — msrivastav13 · 2026-07-31