NVIDIA 提出 LoGRA：RL 训练显存省 45.7%，比 LoRA 还低
omarsar0 · x · 2026-10-13
NVIDIA 发布论文 LoGRA，提出一种内存高效的 LLM 强化学习后训练方法，核心是用低秩梯度草图（rank-256 随机投影，每步重绘）压缩权重梯度，从不构建完整梯度，并配合 predicted-KL 步长控制把每步更新约束在 KL 预算内。
关键结果：
- 可以更新模型全部权重，训练显存却比 LoRA 更低：1.5B 模型上 LoGRA 平均 7.2 GiB，rank-256 LoRA 需 13.2 GiB
- Pass@4 基本持平（81.8% vs 81.4%），Pass@1 约低 2 个点
- 平均训练显存最多降 45.7%，且在单台 8-GPU 节点上稳定训练 27B 模型超过 1100 步（dense Adam 在此规模直接 OOM）
代码已在 Molt 库开源。如果你的 RL 训练卡在 GPU 显存上，这个方法值得一看。
所属事件:NVIDIA 推出 LoGRA：RL 训练显存占用大降 45.7%(2 条相关)→
「Infra」频道最新
- 应用材料 CEO：良率创新是职业生涯罕见的关键时刻，半导体 2.0 将至 — BenBajarin · 2026-10-13
- OCP 2026 吸引 1.5 万人到场,候补名单仍有 3000 人 — bookwormengr · 2026-10-13
- OCP 图表:2026 年前后数据中心晶圆投片将超越手机和 PC — BenBajarin · 2026-10-13
- OCP 全球峰会线下规模惊人,58 国超 14000 人到场 — firstadopter · 2026-10-13
- Basin 示例：流数据经 SQL 校验后写入 Iceberg 表 — samgoodwin89 · 2026-10-13
- Alchemy 作者晒 K2：R2 上的持久事件流，Workers 写入随处消费 — samgoodwin89 · 2026-10-13