DGX Spark 找回 4.1GiB 内存实测:KV 池从 262k 涨到 938k tokens
marian_nmt · x · 2026-10-02
作者 Marcin Junczys-Dowmunt 的完整图文教程:DGX Spark 标称 128GB 统一内存,Linux 实际暴露更少。通过安装 NVIDIA 官方 64 KiB 内核(找回 2.098 GiB,保留 4 KiB 内核作 GRUB 回退)和回收无头模式下 2046 MiB 显示预留(+2,046 MiB),合计多出 4.096 GiB 应用可用内存,使 GLM-5.3-Flash 的 KV 池从 262,144 提升到 937,984 tokens(3.58 倍)。文中给出安装命令、ChangeMemTotal 前后对比和完整代码仓库 emjotde/spark-ram-reclaim。
所属事件:DGX Spark 实测找回被 Linux 隐藏的 4.1GiB 内存(7 条相关)→
「Infra」频道最新
- 纯 Rust 推理引擎 RustingStrata 实测:3060 上跑 Qwen MoE 略胜原版 Strata — Serious_Scarcity7818 · 2026-11-19
- 投资人感叹:市场对不确定性的厌恶盖过了英伟达财报赚钱能力 — MartinGTobias · 2026-11-19
- SGLang 宣布为新模型 DaisyRose-27B 提供 Day-0 支持 — ying11231 · 2026-11-19
- Linux LTS 补丁洪峰将至:单日 3318 个补丁,「人类根本审不完」 — pkqzy888 · 2026-11-19
- DaisyRose-27B 背后:自建沙箱服务降本 80%,百万次运行成功率 99.95% — BanghuaZ · 2026-11-19
- 腾讯 220B Hy4-flash 量化版压到 49GB,64GB 显存即可跑 — gladkos · 2026-11-19