340M 开源决策模型 GLiNER2.5-Decide 上浏览器，MacBook 上 100ms 出结果

nicodotdev · x · 2026-09-25

Fastino 发布开源权重决策模型 GLiNER2.5-Decide：340M 参数的 encoder 模型，面向快速、确定性分类，可对用户自定义的类型化问题与规则联合解码，返回带概率分布和置信度的结构化决策。在基于 17 个数据集的 Fast Decisions 评测（覆盖路由、分诊、分类、情感与内容理解）中，该模型在 9 个数据集上领先同类决策模型。社区已将其转为 ONNX 权重并配合 WebGPU 在浏览器中运行：开源项目 open-jev 的 demo 在 MacBook 上约 100ms 完成一次 4 类类型化决策，文本数据不出浏览器标签页。