vLLM 携手 Red Hat 与 NVIDIA，11 月 12 日马德里办开源推理之夜

vllm_project · x · 2026-11-04

vLLM 官方宣布将与 Red Hat AI、NVIDIA 于 11 月 12 日在马德里 MOA Institute 举办开源推理 meetup，主题覆盖 vLLM、vLLM-omni、LLM Compressor 与 Kubernetes 上的 llm-d。

议程包括：vLLM 入门与高效推理、用 vLLM-omni 多模态服务（文本/图像/音频/视频模型）、LLM Compressor 模型压缩与 Speculators 投机解码、基于开源技术构建安全 agentic 系统，以及 vLLM+llm-d 在 Kubernetes 上从单卡到集群的分布式推理扩展方案，最后开放问答与交流。