开源复刻 Jev：4B 模型直读选项概率，3090 就能跑无需排队

JeremyCMorgan · x · 2026-09-25

开源项目 SemIf（前身 OpenJev）复刻了热门项目 Jev 的接口但换用开放模型：直接从一个冻结的 4B 模型读取类型化选项概率，无需生成再解析/修复 JSON。可在 RTX 3090、Apple Silicon（MLX）或浏览器 WebGPU 上运行，没有等候名单。项目强调独立开发、与 Jev/TypeSafe 无关联，并复现了相同模型、状态与 21 个问题的可对比测量。核心思路是让大多数小的 agent 决策（路由、重试、证据判断）跳过文本生成，直接拿概率做 if 判断。