LangSmith LLM Gateway 支持 OpenAI Decisions API,统一管控 agent 推理

LangChain · x · 2026-10-10

LangChain 宣布 LangSmith LLM Gateway 已支持 OpenAI Decisions API,让 agent 获得低延迟推理,同时提供集中管控能力。

根据文档,Gateway 现支持两类决策模型:TypeSafe (Jev) 走 System One API,提供 noul(真值概率)、choice(选项分类)、score(按评分细则打分)三种问题类型,返回以问题名为键的结构化答案,不支持流式;OpenAI 决策模型走 /openai/v1/decisions 端点。两者均通过 workspace 级 API key 与 BYOK 配置,配合模型回退、数据脱敏策略和消费上限统一管理。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →