SkewAdam 将 MoE 优化器显存降 97.4%，6.78B 可放进 40GB GPU
Kooky-Ad-4124 · reddit · 2026-07-22
一篇新预印本提出了 SkewAdam：一种专门为 MoE 训练降显存的分层优化器。
- 核心思路不是对所有参数一视同仁，而是按参数类型分配不同精度和状态。
- 在作者的设计里，backbone 使用 momentum + 分解二阶矩，experts 只保留分解二阶矩，router 则保留精确二阶矩。
- 论文报告优化器状态显存从 50.6 GB 降到 1.29 GB，减少 97.4%。
- 峰值训练显存从 81.4 GB 降到 31.3 GB，使一个 6.78B 的 MoE 可以在单张 40GB GPU 上训练，而不会明显损害收敛或路由稳定性。
所属事件:SkewAdam分层优化器大幅降低MoE训练显存(2 条相关)→
「Infra」频道最新
- 同一套 DeepSeek 内核两种优化路线：vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27
- Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
- Anthropic S-1 披露：CSP 渠道收入占比三年从 11% 涨至 48% — AccBalanced · 2026-10-27
- Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27
- Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
- profiling 实测：Alchemy Cloudflare 绑定 CPU 时间最多降 166 倍 — samgoodwin89 · 2026-10-27