M5 Max 本地跑 DeepSeek v4.1,实测仅 17 tokens/s 并开源
Argonautlabs · hn · 2026-09-16
Argonautlabs 在 Hacker News 分享了在 M5 Max 上本地运行 DeepSeek v4.1 的实测,速度约 17 tokens/s,并开源了相关项目 argodrive(GitHub)。对关注 Mac 端侧大模型推理性能的用户是个直观参考点。
「Infra」频道最新
- 芯片演进三阶段论:2015年后CMOS缩放只剩能效红利 — blelbach · 2026-09-17
- 开发者做了 GGUF 显存计算器：输入显卡即可知道哪个量化能跑 — asankhs · 2026-09-17
- 摩尔定律三阶段:1970 免费午餐到 2015 后的软件地狱 — blelbach · 2026-09-17
- 96GB M3 Ultra 跑什么?Qwen3.5-122B-A10B 达约 1000 tok/s — infieldmitt · 2026-09-17
- llama.cpp 加载 Qwen3.8 MTP 草稿模型报错，tensor 缺失无解 — Ambitious_Fold_2874 · 2026-09-17
- 预测:18个月内Kimi K3级智能将跑在单张RTX 5090上 — TheZachMueller · 2026-09-17