Laya开源:单次前向33ms的非自回归决策模型,支持路由

duummbass · x · 2026-09-20

convaiinnovations在Hugging Face开源Laya:一个多语言、非自回归的「System 1」决策模型。给它一个状态(文本、邮件、工单或JSON)和类型化问题,它在单次前向传播(约33ms)内返回带数学校准概率的类型化答案,支持100+语言。它用强化学习按严格适当评分规则(RLCD)训练,因此诚实报告概率是最大化奖励的唯一方式;模型不生成文本,无需解析、不会幻觉。仓库含三个检查点:根目录英语版(ModernBERT-large,421M参数,512上下文,擅长英语文本/护栏/邮件分诊)、多语言版(mmBERT-base,322M,1024上下文,快约2.2倍)、类型化决策版(421M,四个工作流准确率0.766)。推荐通过内置Router使用:pip install laya后预加载检查点,可在35ms内完成路由分发。有用户建议将其加入JevBench等路由评测。

所属事件:开源决策模型 Laya 发布:单次前向 33ms 出判定(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →