GLM-5.2量化版在M3 Ultra 512GB本地推理达16 tok/s
antirez · x · 2026-07-06
用户在Apple M3 Ultra 512GB设备上运行GLM-5.2 q4量化模型（ds4-eval版），推理速度约16 token/s。开发者计划更新旧分支以引入批量推理进一步提升性能。这是一次关于智谱GLM系列模型在高端Apple芯片上本地部署性能的实测记录。
所属事件:GLM-5.2量化版在M3 Ultra本地推理达16 tok/s(2 条相关)→
「Infra」频道最新
- Anthropic S-1 曝关键图表：AI 基建投入正获正回报 — BenBajarin · 2026-10-26
- Claude 近半营收来自云市场渠道，占比三年内从 11% 涨至 47% — BenBajarin · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26