vLLM 补丁实测：DiffusionGemma 与商业 API 打平且更快落败
bodonoghue85 · x · 2026-09-18
开发者 mmastrac 用真实线上 eval 对比了自己的 vLLM 补丁 DiffusionGemma-as-Jev 与商业 API 方案 Jev：
- DiffusionGemma（DGX Spark 本地跑）在速度上不如 Jev API——API 反而更快，作者自嘲这有点反直觉
- 智能水平上两者大致打平
- 作者认为综合来看 DiffusionGemma 是赢家（本地部署不烧 API 费用）
「Infra」频道最新
- 开发者在单张 5090 上打造本地版"ChatGPT 百宝箱",细节全是坑 — valdev · 2026-09-18
- 英国国王会晤 OpenAI 等高管，AI 安全升至元首级议题 — eyishazyer · 2026-09-18
- Postgres 全文搜索 TIN 曝光:p99 比 GIN 快千倍以上 — DanielLockyer · 2026-09-18
- NVIDIA cuML 让 scikit-learn 谱聚类提速 100 倍 — NVIDIA Developer · 2026-09-18
- ChatGPT 桌面版默认把文件与代码片段上传云端，教程教换 Ollama 本地运行 — Technovangelist · 2026-09-18
- max-context KV 预留到底浪费什么?Reddit 推理工程讨论 — werunm · 2026-09-18