前 Meta 工程师实测 Jev:与 GPT-nano 成绩相同,快 5 倍但贵 20%

danielmckinn0n · x · 2026-09-25

前 Meta 工程师 Daniel McKinnon 分享了他对 LLM 分类工具 Jev 的实测与质疑。他 2022 年在 Meta 的首个 LLM 项目,就是用 OPT-175B 做一线分类器标记问题内容,因此看到 Jev 的热度颇有"轮回"感:这不就是 LLM + 约束解码吗?

由于缺少公开基准,他用一个大规模文档分类项目对比了 Jev 与 GPT-nano:

他认为速度换算是值得的,但如果任务需要持续运行,微调一个小模型(Qwen 或 Gemma)可能更快更便宜。他对 Jev 的热度表示困惑,公开求解释(ELI5)。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →