单台 M5 Ultra 512GB 跑 DeepSeek-V4.1-Flash:解码稳定 101 tok/s

HankYeomans · x · 2026-11-21

网友 TheDavidTai 分享在单台 Apple M5 Ultra(512GB 统一内存)上本地推理 DeepSeek-V4.1-Flash-1017 的实测数据,经基础调优后成绩已相当可用:

作者认为这只是起步,后续优化空间还很大。对本地部署大模型来说,512GB 统一内存的 Mac 已能流畅跑 MoE 大模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →