为 M5 Ultra 512GB 备战:本地跑大模型的下载清单与量化选择

Ok_Warning2146 · reddit · 2026-08-31

用户预订了 M5 Ultra 512GB,已购入 TB5 硬盘盒和 4TB SSD,提前规划本地模型下载清单:GLM-5.3 MLX mixed 4/8bit(427.8GB)、GLM-5.3-Flash(181.9GB)、Qwen3.8-Flash-Next(106.2GB)、DeepSeek-V4-Flash(165GB)、Kimi-K3 q8(451GB)。他向 M3 Ultra 512GB 用户求证这些量化是否是 512GB 内存约束下的最优选择、GLM-5.3 和 Kimi-K3 能跑多大上下文、pp/tg 性能如何,以及 8-bit 量化值不值得跑。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →