vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持
vllm_project · x · 2026-10-15
vLLM 项目宣布 vLLM-Omni 为 Black Forest Labs 新发布的 FLUX 3 Image Klein 提供 Day-0 支持，合作方包括 BFL 与 NVIDIA。亮点：支持 BF16、FP8、NVFP4 三种 checkpoint 格式；transformer 与 text encoder 均有自定义 kernel 优化；处理好 text encoder 与 autoencoder 的 Hugging Face 模型路径。提供 docker 镜像（vllm/vllm-omni:flux-3-image-klein）与部署配方。
「Infra」频道最新
- Physion 发布 NexTron：SFT 吞吐最高超 DeepSpeed 20.9 倍 — du_yilun · 2026-10-16
- Dreamscale 发布物理 AI 云推理：单张 H100 并发跑 8 台机器人 — arnie_hacker · 2026-10-16
- Google 地震预警系统从 98 国扩至近 200 个国家和地区 — sundarpichai · 2026-10-16
- 微软研究院发布 Magnetar:零知识证明快 10-39 倍且仅依赖哈希函数 — Microsoft Research · 2026-10-16
- 迁回 1PB 数据上本地成本惊人，AI 训练促云回迁潮 — DavidLinthicum · 2026-10-15
- FP8+DSpark 叠加优化 Nemotron 3.5 Super VL，H100 上近 2 倍提速 — vllm_project · 2026-10-15