SkewAdam 将 MoE 优化器显存降 97.4%，6.78B 可放进 40GB GPU
Kooky-Ad-4124 · reddit · 2026-07-22
一篇新预印本提出了 SkewAdam：一种专门为 MoE 训练降显存的分层优化器。
- 核心思路不是对所有参数一视同仁，而是按参数类型分配不同精度和状态。
- 在作者的设计里，backbone 使用 momentum + 分解二阶矩，experts 只保留分解二阶矩，router 则保留精确二阶矩。
- 论文报告优化器状态显存从 50.6 GB 降到 1.29 GB，减少 97.4%。
- 峰值训练显存从 81.4 GB 降到 31.3 GB，使一个 6.78B 的 MoE 可以在单张 40GB GPU 上训练，而不会明显损害收敛或路由稳定性。
所属事件:SkewAdam分层优化器大幅降低MoE训练显存(2 条相关)→
「Infra」频道最新
- NVIDIA 称 Nemotron 3 Ultra 在 RTL 芯片设计任务上达 97.1% — NVIDIAAI · 2026-07-27
- 本地 Qwen 模型驱动机械臂测试 78 款手机续航 — gappyvalley · 2026-07-27
- MiniBot 2.40 新增 xAI、HF Studio 和 vLLM 支持 — Creative-Type9411 · 2026-07-27
- 苹果智能眼镜、英伟达SK合作与携程51.79亿罚单汇总 — APPSO · 2026-07-27
- DeepSeek 融资传闻、欧盟 AI 透明度规则与 OpenAI 安全事故 — 创业邦 · 2026-07-27
- QuixiCore 主张原生量化内核取代先反量化再执行 — QuixiAI · 2026-07-27