开源 System 1 决策模型 Laya:单次前向 33ms 出判定
Balance- · reddit · 2026-09-21
Convai Innovations 发布开源权重(Apache 2.0)的「System 1」决策模型 Laya,作为 TypeSafe 封闭 Jev API 的开放替代。它不生成文本,而是接收状态输入(文本/邮件/工单/JSON)加类型化问题(choice 选标签、score 序数评分、noul 是/否概率),单次前向约 33–40ms 内一次性给出全部答案,无需解析输出、无从幻觉。
模型规格
- 三个 checkpoint:基于 ModernBERT-large 的 421M 英文模型、基于 mmBERT-base 覆盖 100+ 语言的更快的 322M 多语言模型、以及一个面向 typed-decisions 工作流微调的变体;内置 Router 检测文字脚本并路由到对应 checkpoint。
- 用 RLCD 强化学习训练,奖励基于严格适当评分规则,使模型只能靠诚实报告概率来最大化奖励;另含 act-vs-escalate 头,决定何时转人工。
性能与局限
- 作者报告在 AG News、情感分类和 typed-decisions 基准上超过 Jev,速度快约 6–8 倍(但 Jev 数据为第三方数字而非正面实测)。
- 模型卡坦承局限:base checkpoint 未微调时在 typed-decisions 上接近随机;选项超 50 个时准确率骤降(Banking77:0.425 vs Jev 的 0.870);序数评分是最弱题型;英文 checkpoint 对非拉丁文字失效;模型输出过于自信,需在自己的数据上拟合 temperature 后才能信任其概率。
所属事件:Jev 闭源收费数小时后,开源平替 Laya 火速出炉(4 条相关)→
「模型」频道最新
- HF 研究员主张用效率增益指标取代最终 benchmark 分数 — eliebakouch · 2026-11-12
- 陶哲轩坦承:看 ChatGPT 雅可比猜想对答也曾被信息量淹没 — ChrisGPotts · 2026-11-12
- 网友辟谣:「Anthropic Opus 5.5 训练成本超 100 亿美元」系假消息 — ns123abc · 2026-11-12
- Domingos 贴图否定指数增长:前沿模型能力每年仅线性涨 16.5 分 — pmddomingos · 2026-11-12
- Hark 推出 Pro⁴ 高阶套餐,用量达 Pro² 的 10 倍 — adcock_brett · 2026-11-12
- Inkling 2 Small 预训练仅 1/6 时长却表现强劲,引发业内猜想 — georgejrjrjr · 2026-11-12