DiffusionGemma-26B-A4B 上线:单张 B200 跑块扩散解码,800+ tok/s
TheMoonMidas · x · 2026-09-04
Tensimixt 发布 DiffusionGemma-26B-A4B 在线演示:一个文本扩散模型,用 vLLM 服务、NVFP4 权重,在单张 B200 上做实时块扩散解码。它每步生成一块 256 token 的画布,而非逐 token 输出,网页实测速度可达 800+ tok/s,页面同时实时显示吞吐、首字延迟、画布数等指标。
「Infra」频道最新
- Hermes Desktop 一键配置本地模型:自动读硬件选型并装好运行时 — NousResearch · 2026-09-04
- Nutanix CEO：企业将弃「代币税」，开源权重模型上云成趋势 — TiernanRayTech · 2026-09-04
- Agent 应用瓶颈在沙盒启动速度，git 可作状态原语 — w_hgm · 2026-09-04
- NVIDIA 开源 PAIR 测试版:自动把本地 AI 推理分派到局域网多台电脑 — Codeblix_Ltd · 2026-09-04
- AI 相关进口拉爆美国贸易数据：电脑及零件年化近 7000 亿美元 — rjurney · 2026-09-04
- Memphis 算力中心故障致 Grok 中断,xAI 致歉称已全部恢复 — SpaceXAI · 2026-09-04