LoGRA:反向传播累积低秩梯度,RL 训练显存省 45.7%,8 卡跑通 27B
青稞AI · wechat · 2026-10-12
青稞AI 分享新工作 LoGRA,解决大模型 RL 训练显存占用过高的问题:
- 方法:不是冻结主模型只训 LoRA,而是在反向传播时直接累积低秩梯度,不存完整梯度矩阵;每步换一组随机投影,更新仍写回原模型,不受固定低秩子空间限制
- 步长控制:用 predictedKL 估计这一步会让策略变化多大,据此调节步长,避免更新过猛
- 效果:训练显存最高省 45.7%;单机 8 卡跑通 27B 模型 RL,稳定训练 1,100+ 步,同配置标准 Adam 会 OOM
代码基于 Molt 开源,论文见 arXiv 2610.06647。
所属事件:NVIDIA 推出 LoGRA：RL 训练显存占用大降 45.7%(2 条相关)→
「Infra」频道最新
- Lizard 框架：把预训练 Transformer 线性化，近无损且能外推更长序列 — burkov · 2026-10-13
- 英伟达公布首个 800V 直流 AI 工厂，单部署单元 16MW — firstadopter · 2026-10-13
- Broadcom 主张铜光混合机架：拆分 scale-up 域以降低光模块成本 — firstadopter · 2026-10-13
- 一篇博客 HTML 158KB,转 Markdown 后仅 17KB,Agent 抓取省 89% — colinmcnamara · 2026-10-13
- 扎克伯格：H100 比去年更值钱，老 GPU 并未快速贬值 — inductionheads · 2026-10-13
- Arm 列 AI 数据中心三大 CPU 角色,预测 CPU 市场五年增至 3000 亿美元 — firstadopter · 2026-10-13