TRL 零时差支持 Muse Spark Open：64 张 H100 上 LoRA 微调 816B MoE
QGallouedec · x · 2026-10-16
Hugging Face TRL 对 Meta 刚发布的 Muse Spark Open 提供 day-0 微调支持：用 SFTTrainer 微调这个 816B 总参、42B 激活的 MoE 时，transformers 会在加载时对模型分片并把专家拆分到多卡 GPU 上；官方示例在 8 个节点、每节点 8 张 H100（共 64 卡）上训练 LoRA 适配器。
所属事件:TRL 零时差支持微调 Muse Spark Open 并放出示例代码(2 条相关)→
「编程与Agent」频道最新
- Photon 2.0 发布:AI Agent 一键接入 WhatsApp、Telegram、短信等多渠道 — techNmak · 2026-10-16
- Figma 发布 Guidelines 与 Code Sources，让 AI Agent 学会你的设计系统 — JaynitMakwana · 2026-10-16
- 前 DeepMind 工程负责人做 AI 代打电话产品 Fo,接通挂断率从 80% 降到 20-30% — julianweisser · 2026-10-16
- 营销机构 SPACE 开源其沙箱平台,每天跑数千个 agent 隔离执行环境 — marktenenholtz · 2026-10-16
- Cognition 推出 Devin OnCall:AI 自动排查生产告警,自称可当团队 SRE — DevinAI · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16