Mac Studio 跑 DeepSeek V4:DS4 与 oMLX 引擎怎么选?
ShittyMillennial · reddit · 2026-08-24
用户在 M3 Ultra (256GB) Mac Studio 上寻求建议,对比 DS4 和 oMLX 两个推理引擎在运行 DeepSeek V4 Flash 模型时的表现。使用场景涉及约 200k 上下文窗口和 30-50k token 的输入。作者希望了解社区在 Apple Silicon 上的引擎选择及具体的性能数据(如 pre-fill 和生成速度)。
「Infra」频道最新
- Apple 与 Meta 七年来首次公开合作:Mac Studio 串联跑 Muse Spark 模型 — pdamodaran · 2026-10-16
- NVIDIA 开发者生态达 1100 万,四 年多增长近 3.7 倍 — Beth_Kindig · 2026-10-16
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra:前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布:816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- Meta 发布开源模型 Muse Spark Open,联手 Apple 可跑在 M5 Ultra Mac Studio — The Verge AI · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL,AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16