340M 开源决策模型 GLiNER2.5-Decide 上浏览器,MacBook 上 100ms 出结果

nicodotdev · x · 2026-09-25

Fastino 发布开源权重决策模型 GLiNER2.5-Decide:340M 参数的 encoder 模型,面向快速、确定性分类,可对用户自定义的类型化问题与规则联合解码,返回带概率分布和置信度的结构化决策。在基于 17 个数据集的 Fast Decisions 评测(覆盖路由、分诊、分类、情感与内容理解)中,该模型在 9 个数据集上领先同类决策模型。社区已将其转为 ONNX 权重并配合 WebGPU 在浏览器中运行:开源项目 open-jev 的 demo 在 MacBook 上约 100ms 完成一次 4 类类型化决策,文本数据不出浏览器标签页。

所属事件:Fastino 开源 340M 决策模型 GLiNER2.5-Decide,性能超 LLM 路由(4 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →