vLLM 官方教程：用硬件视频解码器实现多 GPU 视频打标扩展
vLLM Blog · rss · 2026-09-18
vLLM 博客发布新教程，介绍如何利用 NVIDIA 硬件视频解码器（通过 PyNvVideoCodec）在视频字幕生成与描述任务中实现多 GPU 横向扩展。核心思路是把视频解码卸载到 GPU 专用硬件单元，配合 vLLM 推理实现跨多卡的高吞吐视频理解流水线，适合需要批量处理大量视频的场景。
「Infra」频道最新
- B200/H100 租金周内创新高，年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍，特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02