双 Mac Studio 张量并行跑 GLM-5.3-Flash 达 140 tokens/s
cryotic · reddit · 2026-11-16
开发者开源了 GLM-Tandem 项目:在两台 Mac Studio 上对 GLM-5.3-Flash 做张量并行部署,新写文本推理速度约 140 tokens/s。作者称这是自己反复调试后稳定可用的「配方」,对想在本地跑大模型的人有参考价值。
「Infra」频道最新
- 数据中心退租谁来接盘?微软三周吃下Abilene 900MW园区 — tengyanAI · 2026-11-16
- 微软开源 TokenEconomizer,为 Coding Agent 降本 18%–31% — aigclink · 2026-11-16
- 工程师请 Claude 估算:用现有芯片造 1000 个大脑需全球电力三倍 — Recent-Day3062 · 2026-11-16
- Intel 170hx 老卡解锁 80GB 显存,年初几百美元现卖 4000 美元 — GabGarrett · 2026-11-16
- 别只盯 token 单价:agent 成本真指标是每完成任务的美元数 — arpit_bhayani · 2026-11-16
- 24张GPU跑出48张产能:华瑞指数云用KVCache存储另辟扩产路 — 创业邦 · 2026-11-16