TypeSafe AI 推出 Jev:用结构化模型接管 LLM 的分类与打分调用

bibryam · x · 2026-09-20

TypeSafe AI 发布了面向结构化决策的小模型 Jev,瞄准那些其实只需要分类、选项或打分的 LLM 调用场景:开发者提供上下文和带类型的问题,模型直接返回应用可以据此行动的结果。

作者提出一种实用的分工模式:Jev 负责判断客户请求的类型,LLM 负责撰写回复,应用代码在执行动作前做权限校验,多个早期项目已在验证这种拆分。

文中给出基于 Vercel AI SDK 的 Hello World 示例:输入一句问候语,输出其为问候语的概率估计。Jev 还支持在预定义选项中做带概率的选择,以及基于有序描述的打分(score)。

所属事件:新模型 Jev 走红:只做决策不对话,快又便宜(33 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →