新研究：RL 训练大模型可用 SGD 替代 AdamW

一项新研究挑战了「大规模 Transformer 训练必须用 AdamW」的默认假设。研究发现，在 RLVR（可验证奖励的强化学习）阶段，标准 SGD 同样有效。由于强化学习已成为提升大模型推理、安全与对齐的关键技术，而实践中沿用的 AdamW 内存开销较大，若 SGD 可行，将显著降低 RL 训练的内存压力，对大模型后训练具有实用意义。

2026-09-14 ~ 2026-09-15 · 2 条相关

• 新研究：LLM 强化学习训练可弃用 AdamW,标准 SGD 同样有效 — zhaoran_wang · 2026-09-14
• 研究：RL训练大模型，SGD能否替代内存吃紧的AdamW？ — burkov · 2026-09-15