421M 开源模型 Laya 单次前给概率答案,延迟仅 40ms

印度喀拉拉邦独立开发者 Nandakishor M(ConvAI Innovations)9 月 18 日开源发布 Laya,一天内在 Hacker News 收获 1200+ 分、约 30 万浏览。Laya 回归判别式范式:输入文本与类型化问题,单次前向传播直接输出带概率的答案,完全不生成文本,在单张 T4 上延迟约 40 毫秒(@thisdudelikesAI 转述为 33ms)。作者同步发布博客《Laya, Jev and the Return of the Discriminative Model》,主张小型判别式路线正在回归,并与闭源产品 Jev(TypeSafe AI)对比;据 @thisdudelikesAI 转述,Laya 比 Jev 早一年多问世。

已确认

为什么重要

2026-09-28 ~ 2026-09-28 · 6 条相关

一手来源