DiffusionGemma 被改造成本地 System One 快速决策模型,接入 vLLM
solyarisoftware · x · 2026-09-20
有人把 Google 开源的 DiffusionGemma 26B-A4B 移植进 vLLM,做成可本地运行的「System One」式快速决策系统。
与传统自回归 LLM 逐 token 生成不同,DiffusionGemma 基于带双向注意力的 token canvas,可直接在预定义答案槽位中并行填充多个决策,适合输出:
- yes/no 判断
- 路由选择(A/B/C)
- 工具调用决策
- 1–4 级严重度分类/打分
该 vLLM 补丁可返回有界选项、概率、置信度/不确定性,并支持同时输出多个决策,类似一个本地运行的「反射系统」。
「编程与Agent」频道最新
- 13 秒管线步骤换成 200ms 调用,每月省数千美元 — hardimanjames · 2026-09-20
- Opus 5 写出 Three.js 最真实海浪,浏览器 WebGPU 实时运行 — majidmanzarpour · 2026-09-20
- TypeSafe 推出「System One」决策模型Jev:只做判断不生成 — ThePromptIndex · 2026-09-20
- Bend 2 被称「软件工厂语言」:形式化验证让 AI 写码免审 — airesearch12 · 2026-09-20
- 50 轮迭代:Claude 包办 3D 模型、动画与音效做出网页游戏 — Sheru7000 · 2026-09-20
- mitsuhiko发问:AI辅助编程中你最头疼的是什么? — mitsuhiko · 2026-09-20