ChatGPT 研究员推出 Jev:比 LLM 快 200 倍、便宜 400 倍做决策

bibryam · x · 2026-09-22

ChatGPT 幕后研究员之一 Diogo Almeida 创办的 TypeSafe AI 发布 Jev——专做结构化决策的「System One」模型，官方称在自有工作流评测中比 LLM 快约 200 倍、便宜 400 倍（并承认这是偏理想值）。
思路：很多 LLM 调用其实只需要分类、选择或打分。Jev 接收上下文和带明确答案类型的问题，返回布尔概率、选项分布或分数，由代码决定后续流程，不必等待生成文本。
文章给出基于 Vercel AI SDK 7+ 的最小示例（experimentalevaluate），boolean 类型返回 01 概率；还介绍 choice（多选分类）和 score（打分）两种问题类型。
文末列出八个早期项目方向，从浏览器 agent 到上下文过滤，展示用低延迟判断替代 LLM 调用的场景。

「编程与Agent」频道最新