把 Jev 当对话模型聊天:3 tok/s 的原始人语速体验

_rchaves_ · x · 2026-09-18

一位用户尝试用 TypeSafe 的判断模型 Jev 当普通对话模型来聊天。结论是这并非好主意:Jev 的生成速度只有约 3 tok/s(普通 LLM 约 150 tok/s),且没有缓存机制,算下来反而更贵,也没有针对对话做过 RL 训练。但他表示就是想和这个模型「说说话」、了解它的感受,哪怕只能用原始人式的方式交流;而且拥有这样的原语,某种程度上可以尝试「重建」一个 LLM,这本身就令人兴奋。

所属事件:开发者硬掰判定模型 Jev 说话:仅 3 tok/s 成本反更贵(3 条相关)→

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →