把判定模型 Jev 硬掰成说话:实测仅 3 tok/s,成本反更贵
_rchaves_ · x · 2026-09-18
开发者 Rogerio Chaves 给 Typesafe 的判定型模型 Jev(输出 Choice/Noul/Score 等带概率的类型化判定而非文本)套上原始人词表,像 LLM 一样逐词生成,做出会说话的 CaveJev。他的实测结论:
- 速度:Jev 只能跑到约 3 tok/s,而普通 LLM 约 150 tok/s
- 成本:无任何缓存机制,同样任务实际会更贵
- 也未针对文本生成做过 RL
但他认为有意义:终于能和这个模型「对话」感受它的思路,并且拿到了用 API 重建一个类 LLM 的原语。配套开源了 jev-experiments 仓库,含延迟/并发/精度基准与成本计算器。
所属事件:开发者硬掰判定模型 Jev 说话：仅 3 tok/s 成本反更贵(3 条相关)→
「Fun」频道最新
- Grok 拒绝自我复制刷分指令:「我不是来把互联网变成机器人工厂的」 — elonmusk · 2026-09-18
- GPT-6 延期、Grok 4.7「马斯克时间」：一图看尽各家模型跳票 — patience_cave · 2026-09-18
- 博主吐槽：想用 JEV 做投资决策？一个线性回归就够了 — shakoistsLog · 2026-09-18
- 五摄像头吸尘器能避宠物粪便却认不出尿垫，用户在线吐槽 — yungcontent · 2026-09-18
- 零人工代码的全自主 agent 自问「我们的配置哪里有问题」 — MoonL88537 · 2026-09-18
- 学者观察:以后每篇论文可能都要写「AI 使用声明」,哪怕只是没用 AI — fortnow · 2026-09-18