421M开源模型Laya单次前向返回答案概率,T4延迟仅40毫秒
maier_ak · x · 2026-09-28
Laya 是一名开发者发布的 421M 参数开源模型(Apache 2.0),输入文本加类型化问题,一次前向传播即返回带概率的答案,不生成任何文本,单张 T4 上延迟约 40 毫秒。
对比对象 Jev 来自 TypeSafe AI,闭源仅提供 API(每百万输入 token 0.042 美元)。独立基准显示 Jev 中位延迟 264-276 毫秒,AG News 准确率 0.910,但校准误差 0.246,为该研究中表现最差的模型。
所属事件:421M 开源模型 Laya 单次前给概率答案,延迟仅 40ms(6 条相关)→
「模型」频道最新
- Pangram 误报悬赏之争:五天无人领赏,是检测器太准还是没人愿赌 1000 美元 — FangYi11101 · 2026-11-16
- MazeBench token 效率榜:Fable 5.2 领先,将跑满 10 亿 token 验证 — patience_cave · 2026-11-16
- MazeBench 新高:Fable 5.2 花费 90 小时和 6000 美元跑出 21% 登顶 — patience_cave · 2026-11-16
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16