拆解 Jev 决策模型:毫秒级出类型化决策,作者用 Qwen 亲手复现
vykthur · x · 2026-09-25
Victor Dibia 发布长文,拆解 TypeSafe AI 新模型 Jev 的工作原理并做了一手实验。
- Jev 是什么:一个「System One」决策模型——非结构化状态输入,输出带概率的类型化决策,不生成文本。官方宣称每次调用延迟 70-500ms,成本低到输出 token 不计量。
- 四步工作法:先定义决策任务,把选项列表写成「结尾正落在答案处」的补全 prompt,再从模型拿到带概率的类型化输出,而非自由文本。
- 一手验证:作者用开源 Qwen 模型复现这套思路跑实验,验证用补全式 prompt 做分类决策的可行性。
- 文章还讨论:它与典型自回归模型的架构差异、适用场景与代价(牺牲了生成能力换取低延迟低成本)。
作者同时实验了新的写作形式:文章附带基于实验的可交互解释版本,托管在自己网站上。
所属事件:Jev 决策模型三天爆红,开源生态迅速成型(5 条相关)→
「编程与Agent」频道最新
- Plurai 推出 Agent 仿真平台:从代码库构建数字孪生自动找故障 — thisguyknowsai · 2026-11-11
- 0xJeff:x402 的真正短板在企业级,大钱在 B2V 而非机器互付 — 0xJeff · 2026-11-11
- 开发者自建 git 网页应用被 Codex 安全护栏误判为网络安全风险 — brianmichel · 2026-11-11
- 形式化验证让 AI 编码更快:Lean 证明成为 agent 优化护栏 — bigdata · 2026-11-11
- Orchestrator v0.14.11 发布:统一管理散落各处的 AI 编程会话 — julianweisser · 2026-11-11
- DeepSeek 开源编码 agent DSH 登上 HF Harness 榜,五项评测并列第一 — TheZachMueller · 2026-11-11