Laya开源：单次前向33ms的非自回归决策模型，支持路由

duummbass · x · 2026-09-20

convaiinnovations在Hugging Face开源Laya：一个多语言、非自回归的「System 1」决策模型。给它一个状态（文本、邮件、工单或JSON）和类型化问题，它在单次前向传播（约33ms）内返回带数学校准概率的类型化答案，支持100+语言。它用强化学习按严格适当评分规则（RLCD）训练，因此诚实报告概率是最大化奖励的唯一方式；模型不生成文本，无需解析、不会幻觉。仓库含三个检查点：根目录英语版（ModernBERT-large，421M参数，512上下文，擅长英语文本/护栏/邮件分诊）、多语言版（mmBERT-base，322M，1024上下文，快约2.2倍）、类型化决策版（421M，四个工作流准确率0.766）。推荐通过内置Router使用：pip install laya后预加载检查点，可在35ms内完成路由分发。有用户建议将其加入JevBench等路由评测。