NVIDIA 发布 LoGRA：强化学习训练显存最高省 45.7%

mark_k · x · 2026-10-08

NVIDIA 新研究提出 LoGRA，通过把学习信号压缩成紧凑的「梯度草图」（gradient sketches）并控制每次更新的幅度以保持训练稳定，将强化学习训练的平均 GPU 显存占用降低最多 45.7%，同时在测试的推理任务上保持性能不降。模型仍通过权重更新学习，只是 GPU 上需驻留的信息大幅减少。

实测中，他们在单节点 8×H100 上对 27B 模型训练超过 1100 步；同样硬件上标准 Adam 优化器配置直接 OOM。作者点评：让更多训练塞进现有硬件意味着更多实验空间，这类效率改进值得关注。