SkewAdam 将 MoE 优化器显存降 97.4%，6.78B 可放进 40GB GPU
Kooky-Ad-4124 · reddit · 2026-07-22
一篇新预印本提出了 SkewAdam：一种专门为 MoE 训练降显存的分层优化器。
- 核心思路不是对所有参数一视同仁，而是按参数类型分配不同精度和状态。
- 在作者的设计里，backbone 使用 momentum + 分解二阶矩，experts 只保留分解二阶矩，router 则保留精确二阶矩。
- 论文报告优化器状态显存从 50.6 GB 降到 1.29 GB，减少 97.4%。
- 峰值训练显存从 81.4 GB 降到 31.3 GB，使一个 6.78B 的 MoE 可以在单张 40GB GPU 上训练，而不会明显损害收敛或路由稳定性。
所属事件:SkewAdam分层优化器大幅降低MoE训练显存(2 条相关)→
「Infra」频道最新
- Unconventional AI 收购 NeuReality,冲刺算力效率提升 1000 倍 — NaveenGRao · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元，PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio：6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存：显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27