SemIf 实验:纯浏览器内用本地模型做语义 if 判断
ngxson · x · 2026-09-19
openjev.com 上线 SemIf,一个纯浏览器端、无后端的本地语义决策实验:让开源模型在你的 GPU 上判断「语义 if」——给出状态、问题和允许的选项,模型直接读出选项概率分布而不逐 token 解码,或用常规逐 token 方式写出同一分布,两种路径可对比耗时。
可选模型:Qwen3 0.6B(手机/小设备推荐,639 MB)、MiniCPM5 2B(桌面推荐,1.56 GB)、Qwen3.5 4B(大内存桌面,3.01 GB)。自测平衡准确率分别约 44%/68.6%/81.3%,公开 102 行子集上的 TypeSafe 一致率约 40.7%/63.7%/84.5%,已发布 Jev 结果为 88.3%。权重来自 Hugging Face 并缓存在浏览器,输入不离开页面,首次加载可能需数分钟。
所属事件:wllama V3 发布,openjev 让大模型纯浏览器运行(3 条相关)→
「Infra」频道最新
- 用 Lambda MicroVM 搭跨设备 AI 编程环境,作者日常使用 — blaizedsouza · 2026-09-19
- 12GB 显存跑 128k 上下文 MoE:两天实测数据与意外结论 — HomoAgens1 · 2026-09-19
- Joseph Suarez 用消费级显卡 5 小时在仓库跑出 SOTA — yacineMTB · 2026-09-19
- MiMo RL 直播算账:infra 重启浪费 33% 有效算力,损失超 40 万美元 — dustinvtran · 2026-09-19
- Jev 类模型无解码循环、有界输出,或成端侧设备的近乎免费判断原语 — signulll · 2026-09-19
- Pedro Domingos:反对数据中心就是让国家变蠢 — pmddomingos · 2026-09-19