开发者推出 jeff：基于 GLiFormer 自托管替代 jev，成本更低延迟相同
JiliJeanlouis · x · 2026-09-19
Logan Markewich 开源了 jeff，一个 TypeSafe jev System One API 的自托管 drop-in 替代品，底层用 knowledgator 的 GLiFormer（400M 参数） 模型驱动。
- 完全兼容：把 TYPESAFEBASEURL 指向 jeff 即可直接用官方 typesafe-sdk，支持 choice（选项选择）、score（分级评分）、noul（是/否概率）三种调用。
- 性价比：延迟与 jev 相当、自托管成本更低，但在推理密集任务上准确率有一定损失（仓库附 benchmark）。
- 部署简单：uv + Python 3.12，下载模型到本地后一条命令启动，支持 CUDA → MPS → CPU 自动选择设备。
作者认为 jev 最有意思的是其简洁、可组合的 API 设计，催生了很多应用；而 jev 本质可归结为一个分类器/编码器，与 GLiFormer 同类，因此可以低成本本地替代。
「编程与Agent」频道最新
- WebMCP 实测:成本仅为 GPT-6 Astra 1/112,任务全解 — hardimanjames · 2026-09-19
- 开发者上线 Musecases:精选 AI Agent 高价值提示词库 — ChrisUniverse · 2026-09-19
- 4 万条测试全绿：开发者解释为何不再逐行审查 AI 代码 — doodlestein · 2026-09-19
- 英伟达 SoL-Pi 开源仓库发布：自动研究循环优化 agent harness — aigclink · 2026-09-19
- 博主直言：多数工程师只是 vibe coder，真本事在底层原理 — ashishllm · 2026-09-19
- 观点:安装器将被带安装技能的 prompt 取代 — BLUECOW009 · 2026-09-19