8GB 显存 Steam Machine 跑 Qwen3.8:128K 上下文解码约 18 t/s
Accurate-Door3692 · reddit · 2026-11-07
Reddit 网友在原版 SteamOS 的 Valve Steam Machine(AMD Navi 33,8GB 显存 + 32GB 内存)上实测 Qwen3.8-Flash-Next Gyro S 量化模型，128K 上下文下 prefill 约 235 t/s,解码 15-18 t/s。
关键发现：
- --set resident-budget-gib=64 是唯一有效的调优(解码约 +20%),它让专家权重常驻引擎自管的内存层，否则只会躺在 OS page cache 里。
- pcie-frac、加大 kv-resident、增大 VRAM 预留等参数在这台机器上均无可观收益，快速调优器也毫无作用。
- 手动启用 MTP 投机解码后反而无增益且 prefill 降约 10%,在 8GB 显存上不划算；且发现 --mtp on 会静默失效，需手动构建 draft 层。
- 附带 SteamOS 实用技巧：SSH 会话结束会杀进程，要用 systemd-run 保活；应检查实际生效的配置文件。
作者警告该配置下仅剩 3.5-4GB 可用内存，测试中曾重启一次；全部脚本已开源在 GitHub。
「Infra」频道最新
- 起飞前实测 Starlink 机上 WiFi：下载 236Mbps，上传仅 6.91Mbps — JoeJustice · 2026-11-08
- Fireworks 推出 Nexus：自动混用开源与闭源模型，编码成本省 50% — sophiamyang · 2026-11-08
- Medusa Halo 泄露：LPDDR6 峰值 691GB/s，玩家拟组 512GB 本地跑大模型 — gnukeith · 2026-11-08
- 密西西比县居民讲述：数据中心带来千名工人、500万美元教育投入 — cgarciae88 · 2026-11-08
- 拖延许可改革法案是让完美扼杀优秀：数据中心与电网急需新法案 — 2C_ornot2C · 2026-11-08
- 自托管 DeepSeek V4.1 Flash 实测：单会话 160 tokens/s，5 会话仅剩 30-50 — gnukeith · 2026-11-08