GitHub Next 开源 LocalJev：用 oMLX 本地复刻 Jev 决策 API

gaganghotra_ · x · 2026-09-19

GitHub Next 团队成员在没拿到 Jev 访问权限的情况下，花一个上午在 oMLX 上搭出了「穷人版 Jev」——LocalJev，并开源在 GitHub。

• LocalJev 是一个兼容 Jev 的 POST /v1/systemone API，用 TypeScript + Bun 编写，后端通过 OpenAI 兼容接口调用 DiffusionGemma（默认 diffusiongemma-26B-A4B-it-4bit）
• 由于 oMLX 不暴露 vLLM 未合并的 diffusion 原语（如 diffusionseedcanvas、logprobs 读取），它采取可移植方案：把 Jev 的类型化决策问题翻译成分类 prompt，让模型输出 JSON 概率标量/向量，再校验、重试与归一化
• 作者用纯 prompt coding 搭建，在 m5 max 64GB 上速度不错，benchmark 了 DiffusionGemma 及多种自回归模型（Qwen MoE、Gemma 4 MoE、e4b/e2b），评测报告在仓库内
• LocalJev server 暴露的 API 兼容正常 Jev API wrapper 库

原文链接 →

「编程与Agent」频道最新

• 开发者用 AI Agent 造出开源视频剪辑工具 Concat,对标 CapCut — JUB0T · 2026-09-19
• 网友用 Jev 做浏览器扩展，自动打标签分析你上网都在看啥 — pramodk73 · 2026-09-19
• 一条 prompt 花 1 美元 5 分钟，用编码 Agent 搭出完整 Django 应用 — Al_Grigor · 2026-09-19
• Agent 接多个视频模型：一个通用工具还是每家各建一个？ — ExcitingBison4616 · 2026-09-19
• Readback 开源插件：让 Claude Code 的回复用语音读给你听 — shauntrennery · 2026-09-19
• WebMCP 实测:成本仅为 GPT-6 Astra 1/112,任务全解 — hardimanjames · 2026-09-19

更多「编程与Agent」频道 AI 资讯 →