Fastino 开源 340M 决策模型 GLiNER2.5-Decide,性能超 LLM 路由

Fastino 发布开源权重决策模型 GLiNER2.5-Decide:340M 参数的英文 encoder 模型,专为运营决策类分类任务调优,可对用户自定义的类型化问题与规则联合解码,一次前向即为多任务打分并输出带概率的结果。该模型登上 Hugging Face 热榜,在 17 项分类基准测试中平均分最高,胜过 LLM 路由方案,且可在浏览器中运行,MacBook 上约 100ms 出结果。

2026-09-25 ~ 2026-09-25 · 4 条相关