开发者硬掰判定模型 Jev 说话，仅 3 tok/s

开发者 Rogerio Chaves 发布 CaveJev 实验：给 Typesafe 的判定型模型 Jev（只输出 Choice/Noul/Score 等带概率的类型化判定而非文本）配上一套原始人词表，像对普通 LLM 那样让它逐词生成。实测结果并不理想：生成速度仅约 3 tok/s（普通 LLM 约 150 tok/s），且成本反而更贵。

2026-09-18 ~ 2026-09-18 · 3 条相关

• CaveJev:给判定模型原始人词表,逼它像 LLM 一样说话 — _rchaves_ · 2026-09-18
• 把判定模型 Jev 硬掰成说话:实测仅 3 tok/s,成本反更贵 — _rchaves_ · 2026-09-18
• 把 Jev 当对话模型聊天：3 tok/s 的原始人语速体验 — _rchaves_ · 2026-09-18