vLLM 接入 LibTorch Stable ABI，升级 PyTorch 不再需重新编译

vllm_project · x · 2026-11-10

vLLM 与 Red Hat、Meta PyTorch 团队合作完成 LibTorch Stable ABI 迁移，自 v0.33.0 起发布 ABI Stable CUDA wheels：更新 PyTorch 时不再需要重新构建 vLLM，可直接换 torch wheel 并导入。文章解释了 ABI 概念与 Stable ABI 的三层结构（稳定 C shim、C++ 封装、header-only 工具），收益包括用户更快升级、发行方减少重建、开发者无需重编译即可测试 torch 变更。注意：Python API、CUDA 版本等兼容性约束依然存在，Stable ABI 只解决二进制兼容。