RTX 3090 实测 Qwen3.8-Flash：量化策略与性能调优
crusaderky · reddit · 2026-08-28
作者分享了在 RTX 3090 (12GB VRAM) 上部署 Qwen3.8-Flash-next 的详细经验。通过使用 IQ4XS 权重、kvarn5 KV cache 等配置，在特定设置下实现了 160 tok/s prefill 和 16 tok/s decode。文章还提供了不同显存容量（16GB/12GB）下的变种配置建议及 llama.cpp 的部署链接。
所属事件:Qwen3.8-Flash 本地部署实测：量化与多卡调优成关键(3 条相关)→
「Infra」频道最新
- 微软深度优化 Windows 迎接 Nvidia RTX Spark：两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15
- Nvidia 将 SPCX 归入「超大规模」类，云厂商依赖度暗藏变数 — RihardJarc · 2026-10-15