DiffusionGemma 走红：把「决策模型」变成可自托管的开源 API

rseroter · x · 2026-09-29

Red Hat 开发者博客介绍了如何用 vLLM 和 Red Hat AI 运行 DiffusionGemma，打造开源自托管的决策引擎。背景是 TypeSafe AI（前 OpenAI 研究员 Diogo Almeida 创立）的 Jev 模型近期刷屏：它不做对话写作，而是输入非结构化状态、输出带概率的类型化决策，提供 Choice（单选）、Score（打分）、Noul（是/否）三类问题，借用了卡尼曼「系统一」的直觉式快思考概念。文章指出企业早已用小型生成模型做零样本分类，Jev 的贡献是专为该角色设计的模型与 API——低延迟、低成本、结构保证、概率即输出。DiffusionGemma 此前已是 Red Hat AI 验证模型，社区将其改造成可自托管的决策引擎。