DGX Spark 找回 4.1GiB 内存实测:KV 池从 262k 涨到 938k tokens

marian_nmt · x · 2026-10-02

作者 Marcin Junczys-Dowmunt 的完整图文教程:DGX Spark 标称 128GB 统一内存,Linux 实际暴露更少。通过安装 NVIDIA 官方 64 KiB 内核(找回 2.098 GiB,保留 4 KiB 内核作 GRUB 回退)和回收无头模式下 2046 MiB 显示预留(+2,046 MiB),合计多出 4.096 GiB 应用可用内存,使 GLM-5.3-Flash 的 KV 池从 262,144 提升到 937,984 tokens(3.58 倍)。文中给出安装命令、ChangeMemTotal 前后对比和完整代码仓库 emjotde/spark-ram-reclaim。

所属事件:DGX Spark 隐藏 4.1GiB 内存被找回,KV 池扩至 3.6 倍(7 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →