手持 3090 显卡,如何入手本地部署 Qwen 3.8?
ozymandizz · reddit · 2026-08-17
一位拥有 RTX 3090 和 128GB 内存的新手询问如何开始本地运行 Qwen 3.8。主要疑问包括:是否必须使用 Linux(对比 Windows)、当前推荐的运行软件(如 Ollama/LM Studio)以及是否可以直接复用网上的配置参数。
所属事件:RTX 3090 用户探讨 Qwen3 模型本地部署方案(2 条相关)→
「Infra」频道最新
- FT 称 AI 算力债券面临「达尔文时刻」,CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16