实测 DGX Spark 找回 4.1 GiB 隐藏内存,KV 池扩到 3.6 倍
marian_nmt · x · 2026-10-02
Marcin Junczys-Dowmunt 发布完整博客,讲解如何在 NVIDIA DGX Spark 上找回被 Linux 吞掉的 4.1 GiB 内存,并给出代码仓库和 runbook。两个技巧叠加:
- 64 KiB 内核:Linux 为每个物理页维护 struct page,4 KiB 页在 128 GB 机器上 vmemmap 元数据开销巨大;换用 NVIDIA 官方 64 KiB 内核后基础页数减少 16 倍,回收 2.098 GiB。可保留原 4 KiB 内核作为 GRUB 回退。
- 回收显示预留:无头 GB10 上 2046 MiB 的显示预留可归还为普通 Linux 内存,再回收 2,046 MiB。
合计每台 Spark 多出 4.096 GiB 应用可用内存,使 GLM-5.3-Flash 的 KV 池从 262,144 token 提升到 937,984 token(3.58 倍)。作者指出此前社区只分别覆盖过其中一种方法,两招并用是首次完整记录。
所属事件:DGX Spark 被系统隐藏内存 两个技巧找回 4.1 GiB(2 条相关)→
「Infra」频道最新
- AI Agent 已可看屏+语音操控，下一步是眼动追踪？ — perilli · 2026-10-02
- 美光已锁定至2030年36%营收的战略客户协议 — JOBhakdi · 2026-10-02
- 开发者实测模型加载能否打满 100GbE 带宽 — TheZachMueller · 2026-10-02
- 苹果 KV-Lingo 论文:跨模型切换 LLM 提速最高 29 倍 — Gauri_the_great · 2026-10-02
- 美国数据中心建设支出创新高,年化近 850 亿美元 — HaydnBelfield · 2026-10-02
- HBM 紧缺将持续多年，华尔街「2029 存储崩盘」判断遭质疑 — JOBhakdi · 2026-10-02