拆解 Jev 决策模型:毫秒级出类型化决策,作者用 Qwen 亲手复现
vykthur · x · 2026-09-25
Victor Dibia 发布长文,拆解 TypeSafe AI 新模型 Jev 的工作原理并做了一手实验。
- Jev 是什么:一个「System One」决策模型——非结构化状态输入,输出带概率的类型化决策,不生成文本。官方宣称每次调用延迟 70-500ms,成本低到输出 token 不计量。
- 四步工作法:先定义决策任务,把选项列表写成「结尾正落在答案处」的补全 prompt,再从模型拿到带概率的类型化输出,而非自由文本。
- 一手验证:作者用开源 Qwen 模型复现这套思路跑实验,验证用补全式 prompt 做分类决策的可行性。
- 文章还讨论:它与典型自回归模型的架构差异、适用场景与代价(牺牲了生成能力换取低延迟低成本)。
作者同时实验了新的写作形式:文章附带基于实验的可交互解释版本,托管在自己网站上。
所属事件:TypeSafe决策模型Jev爆火,三天催生低成本Agent生态(4 条相关)→
「编程与Agent」频道最新
- AI agent 常把简单任务做偏,团队引入 Jev 监控防工具蔓延 — alexcovo_eth · 2026-09-25
- 开源 Connectome:把 AI 记忆像人一样分层折叠而非一删了之 — repligate · 2026-09-25
- Opus 5.5 一天造出 2 公里岛屿生存游戏,4.4 万棵树全部代码生成 — majidmanzarpour · 2026-09-25
- 三个状态撑起 ComfyUI:SUCCESS、FAILURE、PENDING 的架构解析 — Mahmoud_Zalt · 2026-09-25
- Agentic 软件工厂长文:编码提速不等于交付提速 — Pavan_Belagatti · 2026-09-25
- 开发者开源浏览器端工具:一键生成 OpenAI 严格 JSON Schema — Top-Coder-5852 · 2026-09-25