vLLM XPU 支持上线,Intel Arc Pro B70 本地跑 LLM 有了新引擎
vllm_project · x · 2026-10-07
B70 Launcher 0.4.8 发布,为 Intel Arc Pro B70 显卡带来 vLLM XPU 本地推理支持。这是开源桌面 UI,用户在模型库里可直接选择 vLLM XPU 引擎并一键启动到聊天应用。
- 支持引擎:vLLM XPU、llama.cpp SYCL、OpenVINO、EXL3。
- 安装方式为一条 curl 脚本,vLLM 官方账号转发了这一进展。
「Infra」频道最新
- 充电公司 Xeal 计划在美部署 10 万块英伟达 GPU,建边缘推理网络 — Nandu_alias_Parthu · 2026-10-07
- Tokio作者打造的Rust ORM Toasty全面支持Turso数据库 — glcst · 2026-10-07
- Ollama v0.40.0上线:Apple Silicon自动启用MLX运行时 — lmoroney · 2026-10-07
- 48GB Mac 跑 Qwen-Image-2.1：分阶段加载把峰值显存从 43.6GB 降到 19GB — nefayran · 2026-10-07
- 瑞典住房与数据中心争地：AI 时代基建挤占居住空间 — nordicinst · 2026-10-07
- 英伟达估 NVLink Fusion 市场规模至 2030 年前接近 2500 亿美元 — Beth_Kindig · 2026-10-07