分类模型 Jev 号称快 200 倍便宜 400 倍,或重塑 AI 应用架构

rseroter · x · 2026-09-25

TypeSafe 发布的 Jev 是一种「只会分类、不会写字」的新模型类型：只做分类、打分和路由。官方数据显示比用 LLM 做同样任务最高快 200 倍、便宜 400 倍；一项小型独立测试中，通用模型每次回答是非题约花 910 个输出 token 做推理，Jev 只用 85 个且不计费。O'Reilly 文章指出，当今 AI 应用中大量 LLM 组件其实在做决策类任务（通过/路由/选标签），LLM-as-a-judge 评测尤其如此，Jev 类模型可能让应用架构再次改变；同时也讨论了换来的能力损失与开发者应做的架构取舍。