421M开源模型Laya单次前向返回答案概率，T4延迟仅40毫秒
maier_ak · x · 2026-09-28
Laya 是一名开发者发布的 421M 参数开源模型（Apache 2.0），输入文本加类型化问题，一次前向传播即返回带概率的答案，不生成任何文本，单张 T4 上延迟约 40 毫秒。
对比对象 Jev 来自 TypeSafe AI，闭源仅提供 API（每百万输入 token 0.042 美元）。独立基准显示 Jev 中位延迟 264-276 毫秒，AG News 准确率 0.910，但校准误差 0.246，为该研究中表现最差的模型。
所属事件:421M 开源判别式模型 Laya 走红，快 7 倍但复杂任务落败(5 条相关)→
「模型」频道最新
- 爆料：Kimi 3.1 下周也不会发布，再跳票一次 — ChrisGPT · 2026-09-28
- 模型 IQ 排行遭吐槽:不过是词汇测验水平测试 — repligate · 2026-09-28
- repligate 观察称 Sonnet 3 跨实例价值观高度一致且「更聪明」 — repligate · 2026-09-28
- 行业现行价:头部实验室旗舰模型输出约 4-6 美元/百万 token — willcb · 2026-09-28
- 宽切半蒸馏 Muse 30B 得 14B,60 项工具任务通过 57 项 — ZenZombie117 · 2026-09-28
- GPT-3 今日正式退役，官方推荐替代方案引发网友不满 — charles25565 · 2026-09-28