TypeSafe AI 推出 Jev:用结构化模型接管 LLM 的分类与打分调用
bibryam · x · 2026-09-20
TypeSafe AI 发布了面向结构化决策的小模型 Jev,瞄准那些其实只需要分类、选项或打分的 LLM 调用场景:开发者提供上下文和带类型的问题,模型直接返回应用可以据此行动的结果。
作者提出一种实用的分工模式:Jev 负责判断客户请求的类型,LLM 负责撰写回复,应用代码在执行动作前做权限校验,多个早期项目已在验证这种拆分。
文中给出基于 Vercel AI SDK 的 Hello World 示例:输入一句问候语,输出其为问候语的概率估计。Jev 还支持在预定义选项中做带概率的选择,以及基于有序描述的打分(score)。
所属事件:新模型 Jev 走红:只做决策不对话,快又便宜(33 条相关)→
「编程与Agent」频道最新
- 不写代码:用 Claude 搭出助理、会计等 5 个虚拟员工 — evielync · 2026-11-04
- Replit 运营负责人自建 AI 应用:自动分级客服工单并路由处理流程 — amasad · 2026-11-04
- 自主 Agent 定制 MSA 策略,提升 AlphaFold 3 蛋白复合物预测 — SJTU · 2026-11-04
- NVIDIA 研究:频繁上下文压缩可保长任务准确率,长上下文模型或非必需 — nvidia · 2026-11-04
- 纯 vibe coding:Opus 5.5+Meshy 做出 5 个可切换光照的彩绘玻璃 3D 场景 — Pristine_Good7326 · 2026-11-04
- LLM 写的文档为何总是难读?作者指其追求冲击力而非可读性 — mervenoyann · 2026-11-04