非自回归决策模型 Jev:70ms 出结构化决策,输入仅 $0.042/百万 token
karminski3 · x · 2026-09-18
- Jev(TypeSafe AI 出品)放弃传统自回归架构,不能输出普通文本,但能做决策:输入时定义 Schema,模型一次性前向传播输出所有预设字段的离散预测与分支概率,输出 JSON 结构不会出错。
- 速度与价格:端到端最快 70ms;输入每百万 token 仅 $0.042,输出免费,适合做高频生产级决策器(如堡垒机实时判断危险 shell 命令、垃圾短信二分类、看盘等场景)。
- 架构原理:传统模型激活参数要过多少 token 就过多少遍,极吃显存带宽;Jev 用特殊并行采样架构,一次前向传播即输出全部 schema 字段预测,实现极低延迟。
- 背景与限制:创始人 Diogo Almeida 曾参与 OpenAI InstructGPT 与早期 RLHF 团队。无本土节点导致美西光缆延迟 120ms,实际至少 200ms 起;官方称其为 System One 模型,理想搭配需再加一个 System Two 模型做战略判断并生成提示词输入。官网需申请,但 Vercel AI Gateway 已可直接调用。
所属事件:前 ChatGPT 成员推出决策模型 Jev：只出决策不写文本(63 条相关)→
「编程与Agent」频道最新
- ty 即将支持递归隐式类型别名,底层用 mu types 实现 — charliermarsh · 2026-09-19
- 一条 prompt 把视频转成 120fps:Runway MCP 实测 — tlakomy · 2026-09-19
- 用 Jev 给 Supabase RLS 策略做语义审计，揪出规则型 lint 漏掉的漏洞 — SeanOliver · 2026-09-19
- 用 RealSense D436 深度相机做虚拟绿幕：按距离过滤 RGB，无需背景布 — chrismatthieu · 2026-09-19
- Runway MCP 一句 prompt 即可将视频转换为 120fps — tlakomy · 2026-09-19
- 实测成本曝光：100 次模型调用仅花约四分之一美分 — narphorium · 2026-09-19