不做文本生成的 Jev 走红：号称快 200 倍、成本降 400 倍的语义决策模型

AI寒武纪 · wechat · 2026-09-22

TypeSafe AI 推出的 Jev 近期在开发者圈爆火并已全员开放。它是一个没有任何文本生成能力的“系统一”语义决策引擎：输入状态与问题，直接输出强类型选项和置信概率，被工程师形容为“带语义理解的 switch 语句”。

核心信息：

三种输出类型：Choice（选项+概率分布）、Score（有序等级）、Noul（布尔概率），输出严格不越 Schema。
定价：输入 0.042 美元/百万 Token，输出免费；延迟 70–500ms；官方实测综合速度约为传统 LLM 工作流 200 倍、成本降低近 400 倍。
采用 RLCD（基于校准决策的强化学习）训练，90% 概率判定的真实准确率收敛在 90% 左右；但“不会幻觉”只指格式不崩，判断本身仍可能错。
典型场景：模型路由、Agent 工具调用风险拦截（如判断命令是否破坏性）、结果校验。不适合开放式生成、确定性计算与长链推理。
接入建议：替换最痛的正则规则或只为拿是非判断的 LLM 调用节点，先开 Shadow 模式并行校准置信度阈值再切流量。注册送 5 美金额度（约 1.2 亿输入 Token）。

「编程与Agent」频道最新