TypeSafe 推出只能分类路由不能写作的 Jev,称比 LLM 快 200 倍便宜 400 倍

aparnadhinak · x · 2026-09-19

本周 AI 社区热议 TypeSafe 的 Jev——一种新型模型:只做分类、打分和路由,完全不能生成文本。官方数字称比用 LLM 做同样任务最高快 200 倍、便宜 400 倍。一次小型独立测试中,通用模型每次回答是/否要输出约 910 个推理 token,而 Jev 只用 85 个且不对这些 token 计费。

核心论点:当今 AI 应用中大量 LLM 组件实际在做决策——通过/拒绝、路由 A/B、五选一打标签,LLM-as-a-judge 评测尤其如此。若 Jev 数字可信,这类纯决策场景可能被专用路由模型大规模替代,显著改变 AI 应用的构建方式。