DGX Spark 被 Linux 隐藏 4.1 GiB 内存,两个技巧找回
marian_nmt · x · 2026-10-02
作者发现 Linux 默认没有把 DGX Spark 的 128 GB 统一内存全部暴露出来,通过两个手段叠加找回 4.1 GiB:安装 64 KiB 内核(减少 vmemmap 元数据,回收 2.1 GiB)和无头模式下回收 2046 MiB 显示预留内存。在双机 setup 上,这让 GLM-5.3-Flash 的 KV 池从 262k 提升到 938k token。完整测量数据和 runbook 见其博客。
所属事件:DGX Spark 实测找回被 Linux 隐藏的 4.1GiB 内存(7 条相关)→
「Infra」频道最新
- Gridline 发布:微调、蒸馏、批量推理一站搞定,兼容 OpenAI 客户端 — Scobleizer · 2026-11-19
- 昇腾产能测算:明年或产 1920-2160 万颗,瓶颈在存储与封装 — teortaxesTex · 2026-11-19
- AMD Loom 实测:Qwen3.5-4B 在 Radeon 890M 上 prefill 提速 2.6 倍 — jfowers_amd · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS Lambda 终于支持 GPU:托管实例可跑模型推理与媒体处理 — DavidWells · 2026-11-19
- 曝黄仁勋人为制造显卡稀缺抬价获利,库存积压仍维持高价 — GaryMarcus · 2026-11-19