开源SemIf:4B小模型在3090上运行,小型测试中胜过Jev
Sentdex · x · 2026-09-22
- Sentdex 分享了开源项目 SemIf(前身为 OpenJev)的实现并做了并行化小改造。该项目在本地 3090 上用冻结的 4B 开源模型实现「语义 if」——处理 agent 的大部分小决策(路由、重试、证据判断)。
- 项目动机:聊天模型回答这些决策时,生成文本再解析回 if 语句很浪费;SemIf 免排队、可直接在浏览器运行,提供 WebGPU demo。
- 作者实测:在 halite 1 小型玩具任务上,GLM 5.3 Flash + OpenJev(SemIf)轻松击败 GLM 5.3 Flash + Jev,因此很好奇 Jev 的真实模型规模有多大。
- 项目在 GitHub 上已有 3.2k star、210 fork,声明与 Jev/TypeSafe 无关。
所属事件:开源SemIf用4B模型在3090上复刻Jev语义路由(3 条相关)→
「编程与Agent」频道最新
- 用 fable 5.2 跑 CAD：模型苦思 1 小时烧掉 24.7 万 token 的名场面 — _Stocko_ · 2026-11-12
- Factory 新员工入职一月:企业 AI 之争胜在基础设施而非 demo — maddiehfaulkner · 2026-11-12
- Ploid 发布 20 亿人活体索引，为 AI Agent 提供人物数据层 — HeyToha · 2026-11-12
- 两人小公司用 46 个 AI Agent 运营：审批门禁、哈希锁文件与翻车复盘 — dkovl · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- Manhattan 字体 v0.0.1：每个字母都是一个 Python 函数 — allanyu_ · 2026-11-12