System 1 模型实测：CPU 上毫秒级完成工单分类

TypeSafe AI 推出新型「System 1」模型（Laya 与 Jev），这类模型不生成文本：输入工单、JSON、对话记录等状态及一组封闭答案集的问题，编码器单次前向即输出每个答案的概率分布，返回类型化结果可直接在代码中使用。实测显示在笔记本 CPU 上每题仅 45ms、成本远低于 LLM 调用，在 30 条人工标注客服工单上准确率达 70%，可作为毫秒级替代 LLM 路由的方案。

2026-09-26 ~ 2026-09-26 · 3 条相关

• 实测 System 1 模型 Laya：单次编码器输出概率，毫秒级替代 LLM 路由 — ghumare64 · 2026-09-26
• 开源 System 1 模型笔记本 CPU 上 45ms 答题，工单准确率 70% — ghumare64 · 2026-09-26
• System 1 模型一次编码即返回类型化答案,笔记本 CPU 上 45ms 完成工单分类 — ghumare64 · 2026-09-26