专题 · FULL STORY

Jev 决策模型:发布到爆红三周

TypeSafe AI 于 9 月中发布不生成文本、主打毫秒级廉价判断的「决策模型」Jev 并开放早期访问,随即引发 Hacker News 热议。上线三周后日处理 token 破万亿,成为窄域判断模型走红的典型案例。

2026-09-28 ~ 2026-10-10 · 2 集 · 13 条

第 1 集 · TypeSafe 决策模型 Jev 发布:不生成文本,快且廉价的窄域判断(2026-09-28,6 条)

TypeSafe AI 于 9 月 15 日发布并开放早期访问的「决策模型」Jev,在 Hacker News 等平台引发热议。Jev 由创始人、OpenAI 老将 Diogo Almeida(InstructGPT 论文共同作者,公司获 4000 万美元种子轮)推出,定位与主流 LLM 截然不同:不做文本生成,只接受三类问题——Choice(最多 255 个选项中挑选)、Score(打分 2-10 档)与 true/false 判断,直接输出决策结果。

已确认

  • 输入价格低至 4 美分/百万 token,速度与成本据称比前沿 LLM 快约 190 倍、便宜约 440 倍(Matt Wolfe 与 @sanjaykalra 转述为 190 倍/440 倍,另有帖子称 193 倍/444 倍)
  • @every 给出应用实例:用 Jev 做新闻分类后,早晨新闻筛查量从 20 条扩展到 500 条
  • @sanjaykalra 认为这是本季度对 CIO 最有用的模型发布,前提是用于 Jev 专为设计的窄任务;其帖子还提到 Jev 采用级联架构
  • @大模型之路 分析 Jev 在 Agent 圈走红的原因:Agent 调用日志里大多数请求其实是在做判断(分类、门控、评分)而非生成内容,却为这些判断付了大模型的延迟和 token 成本,Jev 把这些「小判断」从大模型账单中剥离
  • @大模型之路 同时提醒快 193 倍、便宜 444 倍是营销数字,应谨慎看待

为什么重要

Jev 代表了「System 1」式窄域模型路线:对海量、低单价的主观判断任务(邮件是否紧急、段落是否像 AI 写的、内容分类筛选),用专门模型替代昂贵的大模型调用,可把成本敏感型流程的规模扩大一个数量级。@every 的新闻筛查案例与 @大模型之路 的 Agent 成本分析都指向这种规模效应。但多位作者也强调其边界:超出三类题型、需要生成或复杂推理的场景并不适用,宣传中的倍数数据也需打折看待。

第 2 集 · TypeSafe 决策模型 Jev 爆红:毫秒级判断、日处理 token 破万亿(2026-10-08,7 条)

TypeSafe AI(由 Erik Gafni、Sasha Sheng、Diogo Almeida 联合创立)于 9 月发布快速决策模型 Jev,上线三周日处理 token 达 1 万亿,约四分之一的世界 500 强企业已接入。据 Fortune 报道,该模型在 AI 开发者与硅谷圈迅速走红,OpenAI 正在跟进类似方向。联合创始人兼 CEO Diogo Almeida 在 TWIML 第 779 期播客中进一步阐释了其「机器原生智能」(machine-native intelligence)的理念。

已确认

  • Jev 是 TypeSafe 的首个「System One」模型,灵感来自卡尼曼《思考,快与慢》:System 2 慢而审慎,System 1 快而自动化;如今的 agentic 系统大多缺乏这种快通道(@veskost)
  • Jev 不是传统 LLM,不生成文本,而是输出带概率的结构化判断,包括 Noul 判断陈述、Choice 选项、Score 打分(@大模型之路)
  • 官方与转发内容宣称:分类任务快 200 倍、成本低 400 倍,可在毫秒级内为 Agent 决定下一步动作且成本接近零(@LangChain、@Arindam1729)
  • LangChain 发布博客介绍 Jev,并讲解如何将其嵌入 agent 循环
  • TWIML 第 779 期播客邀请 Diogo Almeida 介绍 Jev,核心理念是「机器原生智能」,主张为软件决策而非生成文本造模型(@samcharrington)

尚未确认

  • 「快 200 倍、成本低 400 倍」等性能数据为 TypeSafe 方面宣称,暂无独立验证
  • Fortune 提及的 OpenAI「紧追其后」的具体进展不明

为什么重要

  • @veskost 指出,大模型时代开发者遗忘了分类器本可以快、便宜且有用;传统分类器的痛点在训练、监控、更新与系统同步,而让 Agent 自建并维护 Jev 式分类器可替代微调,是一条务实的工程路径
  • @Arindam1729 提醒多数开发者会用错场景,并给出 10 个适合用 Jev 构建的项目用例,说明其适用边界同样关键
  • 若毫秒级、近零成本的决策模型被广泛采用,可能改变 agent 循环中「每步都调大模型」的默认架构,也引来 OpenAI 等巨头跟进