求助:Docker 下部署本地 Qwen3.8 FP8 遇阻

EbbNorth7735 · reddit · 2026-08-24

用户尝试在 Docker 容器中运行本地存储的 Qwen3.8 27B FP8 模型,但遇到路径配置问题:vLLM 无法将挂载的本地路径识别为模型路径(总是尝试从 Hugging Face 拉取)。用户现求可用的 Dockerfile 配置示例以解决本地模型加载问题。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →