DGX Spark 上 DiffusionGemma 补丁并发 32 每秒 22 次结构化生成
bodonoghue85 · x · 2026-09-17
开发者 mmastrac 汇报了把 DiffusionGemma（扩散式解码的 Gemma 变体）改造成类 Jev 用法的最新进展：在一台 DGX Spark 上，几乎零调优的情况下，单个补丁式补全的 p50 延迟约 0.21 秒；并发 32 时，吞吐可达每秒约 22 次结构化生成。这一数据展示了扩散式解码在小型设备上跑高并发结构化输出的潜力。
「Infra」频道最新
- 单核每秒检视 2880 万数据包：XDP 如何改写网络处理 — blaizedsouza · 2026-09-17
- Rust/Wasm AAC 编码器实测：比 FFMPEG 快 4-6 倍 — wavefnx · 2026-09-17
- OpenRouter 周消耗 tokens 一年半暴涨 250 倍至 126 万亿 — The Decoder · 2026-09-17
- 如何验证不可信 GPU 主机真跑了你付费的模型?Gonka 的三类作弊与防御设计 — autoimago · 2026-09-17
- 联想发布 ThinkAgile VX850 V4：换硬件无需迁移业务应用 — shashib · 2026-09-17
- 本地跑 Opus 级编码代理：MTPLX 宣称达 126.5 TPS — julianharris · 2026-09-17