SemIf 实验:纯浏览器内用本地模型做语义 if 判断
ngxson · x · 2026-09-19
openjev.com 上线 SemIf,一个纯浏览器端、无后端的本地语义决策实验:让开源模型在你的 GPU 上判断「语义 if」——给出状态、问题和允许的选项,模型直接读出选项概率分布而不逐 token 解码,或用常规逐 token 方式写出同一分布,两种路径可对比耗时。
可选模型:Qwen3 0.6B(手机/小设备推荐,639 MB)、MiniCPM5 2B(桌面推荐,1.56 GB)、Qwen3.5 4B(大内存桌面,3.01 GB)。自测平衡准确率分别约 44%/68.6%/81.3%,公开 102 行子集上的 TypeSafe 一致率约 40.7%/63.7%/84.5%,已发布 Jev 结果为 88.3%。权重来自 Hugging Face 并缓存在浏览器,输入不离开页面,首次加载可能需数分钟。
所属事件:wllama V3 发布,openjev 让大模型纯浏览器运行(3 条相关)→
「Infra」频道最新
- 生产数据实测:Qdrant 比 Meilisearch 快 2 倍省 9 倍内存 — qdrant_engine · 2026-11-04
- Antseed 挖来ravikantagrawal主管商务,押注点对点推理开放市场 — ravikantagrawal · 2026-11-04
- 德州将超越弗州成数据中心第一州,大量项目仍在早期阶段 — asusarla · 2026-11-04
- 周处理百万条消息,AI agent 生产环境降本 37% 的 13 条实操 — AccBalanced · 2026-11-04
- 一行改动让 RTX 20 系跑 Qwen-Image 2.1 速度翻倍 — xrailgun · 2026-11-04
- 4×RTX 3090 本地跑 DeepSeek V4.1 Flash:524k 上下文 30-40 tok/s — chota23 · 2026-11-04