DiffusionGemma 被改造成本地 System One 快速决策模型,接入 vLLM

solyarisoftware · x · 2026-09-20

有人把 Google 开源的 DiffusionGemma 26B-A4B 移植进 vLLM,做成可本地运行的「System One」式快速决策系统。

与传统自回归 LLM 逐 token 生成不同,DiffusionGemma 基于带双向注意力的 token canvas,可直接在预定义答案槽位中并行填充多个决策,适合输出:

该 vLLM 补丁可返回有界选项、概率、置信度/不确定性,并支持同时输出多个决策,类似一个本地运行的「反射系统」。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →