不写字的决策模型 JEV 刷屏:快 193 倍便宜 444 倍是营销数字
大模型之路 · wechat · 2026-09-28
旧金山公司 TypeSafeAI 于 9 月 15 日开放「决策模型」JEV 早期访问,创始人 Diogo Almeida 是 OpenAI 老将、InstructGPT 论文共同作者,携 4000 万美元种子轮回归,发布当天冲上 Hacker News 一千八百多分。
它做什么:不生成文字,只做结构化判断。接口仅三种题型——Noul(是否+概率)、Choice(最多 255 个预设选项)、Score(打分+置信度)。跳过自回归解码,一次前向计算并行算完所有问题,端到端延迟 70-500 毫秒,问十个问题和问一个成本几乎一样。训练方法 RLCD 的目标是让输出概率与真实正确率对齐(校准置信度),而非像 RLHF 那样贴合人类偏好。
官方数字要打折:宣称比前沿大模型快 193 倍、便宜 444 倍,但评测全部来自自研四条工作流,参考答案是 OpenAI 与 Anthropic 模型答案的平均值;独立实测通常落在 5-25 倍加速。软肋包括:上下文塞入无关内容时准确率明显下滑、只接受文本、只给结论不给理由、闭源 API 且未对中国大陆开放。
适用边界:适合工单分流、意图分类、内容审核、线索打分、工具调用风险门控等「答案本来就在集合里」的高频判断;不适合需要写作、解释、多步推理或事后审计的场景。文章认为这揭示了一个方向:完整智能体需要「快慢分工」——贵模型负责慢思考规划,廉价决策模型承担每天几十万次的高频快判断。
所属事件:TypeSafe 决策模型 Jev 发布：不生成文本，快且廉价的窄域判断(6 条相关)→
「编程与Agent」频道最新
- 实测把 /autocompact 调到 400k,每周 Claude 用量省 29% — rickasaurus · 2026-10-10
- Eazo 体验：一句话生成可上线 App,含收款与返佣体系 — vista8 · 2026-10-10
- Grok Bot 嵌套运行 Hermes Agent VM,实现多层并行智能体 — alexcovo_eth · 2026-10-10
- Brian Holt：卖掉 42U 机架，一台 Framework 桌面加编码 Agent 更实用 — film_girl · 2026-10-10
- Group-Evolving Agents 获 COLM 2026 奖:SWE-bench 71% 超越人类设计框架 — xwang_lk · 2026-10-10
- 开发者观察：让 agent 修你不懂的 bug，就是现实版连续回形针最大化 — brandon_xyzw · 2026-10-10