RTX 5070 单卡实测 Qwen3.8 极致量化：12GB 显存跑出 22t/s
jacek2023 · reddit · 2026-08-29
用户分享了在 RTX 5070 (12GB VRAM) 上运行 Qwen3.8-Flash-Next 模型的 IQ1S 极致量化版本的经验。
配置与命令
- 模型：Qwen3.8-Flash-Next-UD-IQ1S (GGUF 格式)
- 硬件：单卡 RTX 5070
- 命令参数：设置并行数为 1 (--parallel 1)，上下文长度 10000 (-c 10000)
性能数据
- 生成速度：约 21-22 tokens/s
- 提示处理：约 25 tokens/s
- 显存占用：成功压入 12GB 显存
用户建议低显存用户优先尝试小量化版本以验证兼容性。
「Infra」频道最新
- 微软深度优化 Windows 迎接 Nvidia RTX Spark：两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15
- Nvidia 将 SPCX 归入「超大规模」类，云厂商依赖度暗藏变数 — RihardJarc · 2026-10-15