用 vLLM 响应模板把 DiffusionGemma 变成结构化打分器
bodonoghue85 · x · 2026-09-30
Google Gemma 官方分享:把 DiffusionGemma 改造成类 Jev 模型,在 vLLM 中用一个 response template 预填充画布,即可在单步去噪中抽取 yes/no、多选题和打分题的置信度分数与概率分布,让结构化任务的输出更精确,且速度快、易扩展。
「编程与Agent」频道最新
- 微软研究:六个主流 LLM 编程时也存在达克效应式自信偏差 — burkov · 2026-09-30
- 把整个应用接进 ChatGPT：插件扩展实现聊天控制社媒排期 — haltakov · 2026-09-30
- Seroter 日报：AI 生成编码越快，工程越难；供应链安全信心缺失 — rseroter · 2026-09-30
- 微软推出 Azure Canvases:在 GitHub Copilot 内直接管理 Azure 资源 — DanWahlin · 2026-09-30
- Anthropic 大量内部软件已由 Claude 构建，Krieger 称是年度最大转变 — victor_explore · 2026-09-30
- GPT-6.1 Sol 实测：105 个植入 bug 修 44 个，成本仅为上代 1/15 — PawelHuryn · 2026-09-30