开源 Laya 挑战闭源 Jev:322M 参数本地决策仅 21ms、零 token 成本
markjeffrey · x · 2026-09-21
Laya 是 TypeSafe Jev 的开源替代品:一个不做聊天、只做决策的小模型,输入带类型的问题,输出带真实概率的带类型答案。
- 参数与体积:322M 参数,磁盘仅 650MB,Apache-2.0 开源权重,可完全离线运行
- 速度:Apple M1 Max 上单次决策约 21ms,自称比托管 LLM 返回同样结构化答案(约 4 秒)快约 200 倍,且从不生成 token
- 与 Jev 对比:同一批 500 个样例上,Jev 开箱准确率更高,Laya 在简单问题上打平且快数倍;Jev 为闭源、仅 API
- 作者澄清:并非克隆——底层工作于 2025 年 3 月发表,早于 Jev 发布 18 个月
- 与 BERT 分类器区别:问题在请求时才设定,单一 System 1 模型可回答任意带类型问题,无需按任务训练、不生成文本
适合数据不能出本地、延迟敏感或想用自己的标注微调的场景。
所属事件:Jev 闭源收费数小时后,开源平替 Laya 火速出炉(4 条相关)→
「模型」频道最新
- HF 研究员主张用效率增益指标取代最终 benchmark 分数 — eliebakouch · 2026-11-12
- 陶哲轩坦承:看 ChatGPT 雅可比猜想对答也曾被信息量淹没 — ChrisGPotts · 2026-11-12
- 网友辟谣:「Anthropic Opus 5.5 训练成本超 100 亿美元」系假消息 — ns123abc · 2026-11-12
- Domingos 贴图否定指数增长:前沿模型能力每年仅线性涨 16.5 分 — pmddomingos · 2026-11-12
- Hark 推出 Pro⁴ 高阶套餐,用量达 Pro² 的 10 倍 — adcock_brett · 2026-11-12
- Inkling 2 Small 预训练仅 1/6 时长却表现强劲,引发业内猜想 — georgejrjrjr · 2026-11-12