把 Jev 当对话模型聊天:3 tok/s 的原始人语速体验
_rchaves_ · x · 2026-09-18
一位用户尝试用 TypeSafe 的判断模型 Jev 当普通对话模型来聊天。结论是这并非好主意:Jev 的生成速度只有约 3 tok/s(普通 LLM 约 150 tok/s),且没有缓存机制,算下来反而更贵,也没有针对对话做过 RL 训练。但他表示就是想和这个模型「说说话」、了解它的感受,哪怕只能用原始人式的方式交流;而且拥有这样的原语,某种程度上可以尝试「重建」一个 LLM,这本身就令人兴奋。
所属事件:开发者硬掰判定模型 Jev 说话,仅 3 tok/s(3 条相关)→
「Fun」频道最新
- QuixiAI 谈 AI 开发者争议:创造即是在扮演上帝 — QuixiAI · 2026-11-02
- 用纸箱和内存条设陷阱抓 Sam Altman,Reddit 玩梗图火了 — Nunki08 · 2026-11-02
- 网友玩梗:GPT-4 之后,再无模型能稳坐王座这么久 — adonis_singh · 2026-11-02
- 让 GPT 逆向同花顺 API,结果它用历史数据导出凑了个接口 — yangyi · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」:Yacine 讽刺 RSI 论战,Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- 字节 Seed 已发 Loop-μP,网友:坐等中国团队 loopmaxxing — scaling01 · 2026-11-02