Jev 只做选择题不打文字账:新类别 AI 路由模型省掉输出 token
femke_plantinga · x · 2026-10-14
TypeSafe AI 于 9 月 15 日发布 Jev,OpenAI 上周也开放了类似能力,分类决策型模型正快速成为独立品类。与 LLM 逐 token 写答案不同,Jev 只做「选择题」:给出上下文、问题和允许的答案集,它对每个候选答案打分。
以同一张「我被重复扣费」客服工单为例:
- LLM 路径:prompt 要求以 JSON 回复选队,逐 token 生成,代码负责解析,格式坏了还得重试。
- Jev 路径:只允许 billing/bug/sales 三个答案,它输出各答案的分数(如 billing 0.91),代码按阈值决定自动路由还是转人工。
关键差异在于分数本身:LLM 猜的时候听起来同样自信,Jev 则明确给出置信度,方便你设定人工介入阈值。这样分类任务无需为输出文本付费,也不怕格式崩坏。
作者提醒两点保留意见:TypeSafe 未公开 Jev 内部实现,目前只是输入输出层面的对比;且「有效答案」仍可能是错的分类,建议先用自己的工单实测。
所属事件:TypeSafe AI 推出决策模型 Jev,速度号称快前沿 LLM 百倍(2 条相关)→
「编程与Agent」频道最新
- Starlink 用 Grok Voice 3.0 日接 2 万通电话,70% 无需人工 — elonmusk · 2026-10-15
- Cohere Labs 研究:堆 agent 数量不是扩展策略,该何时分工 — pvncher · 2026-10-15
- Codex 隐藏技巧:可在新对话中让 AI 检索过往对话 — petergyang · 2026-10-15
- 设计师用 Claude 汇总 X/Medium/Dribbble 全部作品,建起个人作品总库 — tomjohndesign · 2026-10-15
- crimsonland 0.17 支持自定义关卡,描述想法给 agent 即可开玩 — banteg · 2026-10-15
- 用户反馈 Claude Code fast mode 无法用 20x 订阅启用,疑似计费通道 bug — RileyRalmuto · 2026-10-15