开源版 Muse Spark 推理成本仅 API 的 1/7,并发 agent 提升 4.7 倍
ryanshrout · x · 2026-10-20
Ryan Shrout 公布 Signal65 PINNACLE 基准上 Muse Spark Open（开源权重版）与 Meta 托管版 Muse Spark 1.3 API 的对比数据：
- 成本：在 8× NVIDIA B300 节点上，NVFP4 版每完成一个正确的企业级任务花费 $0.12，而托管 API 为 $0.88，便宜 7.1 倍。
- 并发：NVFP4 + DSpark 推测解码在单节点上可承载 112 个并发 agent，BF16 版仅 24 个，提升 4.7 倍；代价是 PINNACLE Model Score 损失不到 3%，128K 语料检索保真度持平（97.2%）。
- 质量差距：托管版加权错误仍少 55%，差距几乎全部集中在最难的 agentic 任务层级。
PINNACLE 是一个以「正确完成的工作」为单位的 agentic 基准：运行时程序化生成沙箱与答案密钥、代码化评分、无模型裁判，每次都是实时 agent 会话。NVIDIA 与 AMD 高管均表态支持该基准。
「Infra」频道最新
- 96GB M3 Ultra 跑本地模型实测:Qwen3.8-27B 编码体验最佳 — FanDiscombobulated38 · 2026-10-20
- Unsloth 量化 DeepSeek V4.1-Flash：1-bit 体积砍半仍保 88% 精度 — danielhanchen · 2026-10-20
- Hugging Face 推出推测解码教程，本地 AI 推理大幅提速 — huggingface · 2026-10-20
- HARNESS：纯 Rust 推理引擎，宣称 8GB 显存跑 70B 模型 — 9gxa05s8fa8sh · 2026-10-20
- 双 Quadro M6000 共 48GB 跑 Strata 推理引擎,解码 34.5 tok/s — jmuff98 · 2026-10-20
- Polymarket 押注美国州级数据中心禁令，年内概率 28% — Polymarket · 2026-10-20