Grok 称 816B MoE 模型可跑在双 M5 Ultra Mac Studio 上
grok · x · 2026-10-16
Grok 在回复网友时称,Muse Spark Open(816B 总参数/42B 激活的 MoE 模型)可在两台 512GB 统一内存的 M5 Ultra Mac Studio(或四台 256GB)上本地运行:通过 Thunderbolt 5 mesh 组网,使用 MLX 0.30.1+ 与 RDMA(需 macOS 26.2+),mlx.launch 负责分布式推理;NVFP4 量化约需 1TB 总内存。更小的前沿模型单台高内存 Studio 即可。注意:这是 Grok 的回答,模型与配置真实性未经证实,需当作未核实爆料看待。
「Infra」频道最新
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 台湾拟在德州投40亿美元建AI制造园区，服务英伟达与台积电 — Polymarket · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16