MacBook Pro 跑 DeepSeek：量化后实测近 40 tokens/s

victormustar · x · 2026-08-03

开发者在搭载 M5 Max 芯片的 MacBook Pro 上，成功实现了 DeepSeek 模型的高效本地推理。在处理超过 1.5 万长上下文的情况下，速度依然能达到 36 到 55 tokens/s。

这一惊人的运行效率主要得益于结合了 @unsloth 的 UD-Q2KXL 量化版本以及 @ggmlorg 的 MXFP4 DSpark 草稿模型（推测加速）。

原文链接 →

「Infra」频道最新

• Cloudflare 启动 Agents Week，Workers 现已支持 gRPC — ritakozlov · 2026-08-03
• Cloudflare 推出 Billable Usage API，提供程序化成本监控 — ritakozlov · 2026-08-03
• Cloudflare Workers 与 Containers 宣布支持 gRPC 及入站 TCP — ritakozlov · 2026-08-03
• Cloudflare 推出 @cloudflare/computer：为每个 Agent 配备专属计算环境 — threepointone · 2026-08-03
• Turso 数据库突破 SQLite 限制，正式支持并发写入 — glcst · 2026-08-03
• Cloudflare 详解大规模运行 Kimi 与 GLM 的推理优化 — michellechen · 2026-08-03

更多「Infra」频道 AI 资讯 →