SemIf 实验:纯浏览器内用本地模型做语义 if 判断

ngxson · x · 2026-09-19

openjev.com 上线 SemIf,一个纯浏览器端、无后端的本地语义决策实验:让开源模型在你的 GPU 上判断「语义 if」——给出状态、问题和允许的选项,模型直接读出选项概率分布而不逐 token 解码,或用常规逐 token 方式写出同一分布,两种路径可对比耗时。

可选模型:Qwen3 0.6B(手机/小设备推荐,639 MB)、MiniCPM5 2B(桌面推荐,1.56 GB)、Qwen3.5 4B(大内存桌面,3.01 GB)。自测平衡准确率分别约 44%/68.6%/81.3%,公开 102 行子集上的 TypeSafe 一致率约 40.7%/63.7%/84.5%,已发布 Jev 结果为 88.3%。权重来自 Hugging Face 并缓存在浏览器,输入不离开页面,首次加载可能需数分钟。

所属事件:wllama V3 发布,openjev 让大模型纯浏览器运行(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →