Qwen3.8 Flash Next 混合显卡部署实测求助
Designer_Elephant227 · reddit · 2026-08-31
用户尝试在混合显卡环境（RTX 5070 Ti 16GB + Radeon AI PRO R9700 32GB + 96GB RAM）下本地运行 Qwen3.8 Flash Next 模型，但遇到困难。用户此前成功运行 27b 模型（q8 量化，256k 上下文，40tok/s）。目前遇到 AMD Pro 驱动卸载 Bug 导致系统死机，以及 Claude 误判 MoE 模型显存需求的问题。作者请求社区提供具体的量化方案、吞吐量数据、启动参数以及混合 NVIDIA/AMD 环境的处理经验。
「Infra」频道最新
- 中国AI基建热潮推动国产芯片公司利润暴增，MetaX实现盈利 — pstAsiatech · 2026-10-16
- Qdrant 实测 Perplexity 视觉文档嵌入:1-bit 压缩后体积仅 1/21 — jrxna · 2026-10-16
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 台湾拟在德州投40亿美元建AI制造园区，服务英伟达与台积电 — Polymarket · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16