Meta 开源 816B 参数 Muse Spark Open，Groq 预览跑出 350+ tokens/秒
GroqLLC · x · 2026-10-16
Groq 宣布 Meta 的开源权重模型 Muse Spark Open 在 GroqCloud 开启限量预览，单用户推理速度超 350 tokens/秒。
- 模型规格：816B 参数的稀疏 MoE，每 token 激活约 42B；支持文本、图像、视频、音频输入，原生 1M token 上下文（GroqCloud 上为 131,072）；专为长程 agentic 工作训练，如编码与客服 agent——可读大型代码库、规划改动、调用工具、自查纠错。采用 Muse Model License。
- 生态支持：发布即支持 SGLang、vLLM、TensorRT-LLM、Transformers、MLX、llama.cpp、Unsloth 等推理框架，验证覆盖 NVIDIA/AMD/Intel/Apple 芯片；BF16 与 NVFP4 官方精度，另有 AMD 的 FP8/MXFP4、Intel INT4 等量化；Baseten、Fireworks、Together AI 等多家提供托管推理；TorchTitan、NeMo、TRL 等微调方案同步上线。
- Meta 同时在办全球 AI Developer Hackathon，奖金池 100 万美元。
「Infra」频道最新
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- 微软 MAI-Base-2 用 1.6 万块 GB200 训练 38 天，MFU 仅 21% — scaling01 · 2026-10-16
- Khala 研报对比 peaq、THOR、BitRobot、Axis 四家机器人数据代币化项目 — 0xSammy · 2026-10-16
- Signal65 实测：Xeon 6 跑 Agent 负载快 11% 且更省钱 — ryanshrout · 2026-10-16
- 曝微软 MAI-Base-2 用 1.6 万张 GB200 训练 38 天，2.8T 参数 MoE — scaling01 · 2026-10-16
- Cloudflare 与 OpenAI 试点：实时网络信号让 ChatGPT 搜到更多未知网页 — irvinebroque · 2026-10-16