Meta 开源 Muse Spark:816B 参数、百万上下文、原生多模态
lmoroney · x · 2026-10-16
Meta 发布开放权重模型 Muse Spark Open,号称迄今最强美国开源权重模型:
- 架构:原生多模态 MoE,总参数 816B,每 token 激活约 42B,上下文窗口 100 万 token,可输入文本、图像、音频、视频
- 定位:专攻编码与长程 agentic 工作,针对多文件重构、调试、长任务等真实开发者工作流训练
- 生态:权重已上线 Hugging Face(Muse Model License),首发即支持 SGLang、vLLM、TensorRT-LLM、Transformers、Apple MLX、llama.cpp、Unsloth
- 训练栈:TorchTitan 内置该模型的 SFT(含多轮)、LoRA 与 TitanRL 强化学习配方;SGLang 中集成 Meta 的 PyTorch 原生内核 DSL Helion,在 NVIDIA/AMD GPU 上有内核级加速
- 安全:作为独立模型运行时额外做了安全后训练,无系统护栏时也更抗滥用
所属事件:Meta 发布 Muse Spark Open:816B 参数美国最强开源模型(83 条相关)→
「Infra」频道最新
- 拿到新硬件就开跑:垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16
- Rebasely 公测:为人和 Agent 共写代码打造的新 Git 托管 — handotdev · 2026-10-16
- Drama3 语音合成登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度 — Acceptable-Cycle4645 · 2026-10-16
- CoreWeave 三位联创 IPO 后套现 33 亿美元,信贷风险引股价震荡 — SumitGup · 2026-10-16
- 传闻新模型 cherry pi 小到能跑在树莓派上? — sull · 2026-10-16