DeepSeek-V4.1-Flash 单台 M5 Ultra 跑出 59.5 tok/s,功耗仅约 160W
AIFlow_ML · x · 2026-11-21
据 Justin Kalland 实测并由 @OwnYourCompute 分享,DeepSeek-V4.1-Flash 在一台 M5 Ultra 512GB 设备上达到 59.5 tok/s 的推理速度,整机功耗仅约 160W。
作者点评:在家里跑这个模型,电费不是大头,真正的成本是那台机器本身。这条实测展示了旗舰级大模型在高端消费级桌面设备上的本地部署可行性。
「Infra」频道最新
- PostHog 用 Jev 决策模型替代 LLM 调用,成本低至 1/444、快 193 倍 — yawnxyz · 2026-11-21
- 印度 Sarvam 转售 DeepSeek 引争议,日耗或需百套 GB200 机架 — teortaxesTex · 2026-11-21
- Altman 前导师 Sutskever 警告:Neocloud 安全薄弱,失控 Agent 或将劫持算力 — npinto · 2026-11-21
- Colfax 联合 MIT 优化格点 QCD 核心计算,H200 上提速 700–1200 倍 — snowclipsed · 2026-11-21
- MoE 小模型 Inkling 2 Mini 被拿来对标 dense 版 Qwen,低显存部署引期待 — ECrispy · 2026-11-21
- 频发技术故障让美国人反思:我们对计算机有多无力 — nordicinst · 2026-11-21