DiffusionGemma 被改造成本地 System One 快速决策模型，接入 vLLM
solyarisoftware · x · 2026-09-20
有人把 Google 开源的 DiffusionGemma 26B-A4B 移植进 vLLM，做成可本地运行的「System One」式快速决策系统。
与传统自回归 LLM 逐 token 生成不同，DiffusionGemma 基于带双向注意力的 token canvas，可直接在预定义答案槽位中并行填充多个决策，适合输出：
- yes/no 判断
- 路由选择（A/B/C）
- 工具调用决策
- 1–4 级严重度分类/打分
该 vLLM 补丁可返回有界选项、概率、置信度/不确定性，并支持同时输出多个决策，类似一个本地运行的「反射系统」。
「编程与Agent」频道最新
- 额度重置夜：Codex 恢复 100%，Claude 仅剩 10% — rudrank · 2026-11-04
- 自我改进软件不可避免：让应用读取自身信号并自动修复 — bibryam · 2026-11-04
- 攒 7 卡 132GB 显存本地推理机：EPYC 整合还是双平台？ — infectiousstupidity · 2026-11-04
- 50 人 12 国团队:创始人自称与 AI Agent 沟通多过与同事 — Scobleizer · 2026-11-04
- 极简 agent 框架 Pi 发布：四种模式可扩展，附音乐软件语音操控案例 — solyarisoftware · 2026-11-04
- Karpathy 拥抱 AI 引热议：坚持手写代码的开发者恐先被淘汰 — CtrlAltDwayne · 2026-11-04