Windows 11 上原生运行 vLLM，AMD RX 6000 显卡实测
Dizzy_Counter2481 · reddit · 2026-08-18
开发者构建了适用于 AMD RX 6000 系列显卡的 Windows 11 原生 vLLM + ROCm 7.15 运行时，并提供一键安装包。
核心特性：
- 绕过 WSL2，直接在 Windows 上运行原生 HIP 和 ROCm。
- 针对 RX 6750 XT (gfx1031) 编译了 rocBLAS 二进制文件。
- 集成 vLLM 插件 vllmwindowsrocm，支持 TRITONATTN。
实测数据 (RX 6750 XT):
- rocBLAS 基准测试：25.97 TFLOPS (FP16)。
- vLLM 推理速度：59-62 tokens/s (Qwen3.5-4B)。
- 初始化时间约 1 秒。
技术实现：
- 使用 TheRock 构建 HIP 和 rocBLAS。
- 设置 HSAOVERRIDEGFXVERSION=10.3.0 强制识别显卡。
- PyTorch 2.12.0 链接 TheRock 运行时。
已知限制：
- 目前主要验证了 RX 6750 XT，其他 RDNA2 显卡可能需要调整。
- 强制启用 enforceeager=True，禁用 torch.compile。
- FP8/AWQ 及多 GPU 尚未测试。
「编程与Agent」频道最新
- 结合 LSTM 与智能体，开源端到端股报生成系统 — kmeanskaran · 2026-08-18
- poolside 曝光 Model Factory 新功能：实验 API 与轨迹存储 — dhruv2038 · 2026-08-18
- Claude 为仅支持 Windows 的打印机编写 MacOS 驱动 — fofrAI · 2026-08-18
- 仅用 Markdown 和 5 个工具构建有“大脑”的 AI — dfinke · 2026-08-18
- 2026 年后端工程师技能树：重点纳入 MCP 与 Agent — _jaydeepkarale · 2026-08-18
- Tako-MCP 推出：连接 Octopus Energy 的模型上下文协议服务器 — modelcontextprotocol · 2026-08-18