SkewAdam 将 MoE 优化器显存降 97.4%，6.78B 可放进 40GB GPU
Kooky-Ad-4124 · reddit · 2026-07-22
一篇新预印本提出了 SkewAdam：一种专门为 MoE 训练降显存的分层优化器。
- 核心思路不是对所有参数一视同仁，而是按参数类型分配不同精度和状态。
- 在作者的设计里，backbone 使用 momentum + 分解二阶矩，experts 只保留分解二阶矩，router 则保留精确二阶矩。
- 论文报告优化器状态显存从 50.6 GB 降到 1.29 GB，减少 97.4%。
- 峰值训练显存从 81.4 GB 降到 31.3 GB，使一个 6.78B 的 MoE 可以在单张 40GB GPU 上训练，而不会明显损害收敛或路由稳定性。
「Infra」频道最新
- Mark Cuban 预言不少 AI 数据中心可能改成球场 — 2C_ornot2C · 2026-07-22
- LLM 推理基准在真实流量前往往会误导团队 — Suspicious_Orchid770 · 2026-07-22
- Tokenizers 重构转向 SIMD，号称快 500 到 1000 倍 — vanstriendaniel · 2026-07-22
- Cloudflare 式基础设施让 agent-first 应用更容易搭建 — threepointone · 2026-07-22
- OpenFPM 的 CUDA 风格内核已可在 Apple GPU 上通过 Metal 运行 — Scobleizer · 2026-07-22
- 三星据称拟以 200 亿欧元估值投资 Mistral 10 亿欧元 — rohanpaul_ai · 2026-07-22