SkewAdam 将 MoE 优化器显存降 97.4%，6.78B 可放进 40GB GPU
Kooky-Ad-4124 · reddit · 2026-07-22
一篇新预印本提出了 SkewAdam：一种专门为 MoE 训练降显存的分层优化器。
- 核心思路不是对所有参数一视同仁，而是按参数类型分配不同精度和状态。
- 在作者的设计里，backbone 使用 momentum + 分解二阶矩，experts 只保留分解二阶矩，router 则保留精确二阶矩。
- 论文报告优化器状态显存从 50.6 GB 降到 1.29 GB，减少 97.4%。
- 峰值训练显存从 81.4 GB 降到 31.3 GB，使一个 6.78B 的 MoE 可以在单张 40GB GPU 上训练，而不会明显损害收敛或路由稳定性。
所属事件:SkewAdam分层优化器大幅降低MoE训练显存(2 条相关)→
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11