M5 Pro 64GB 本地跑 Qwen 实测:仅约 20 tok/s,长上下文更慢
rJohn420 · reddit · 2026-09-13
楼主分享 M5 Pro 64GB 本地运行大模型的体验:跑 Qwen 3 27B 左右可获得约 20 tok/s 的持续速度(前 2-4k token 约 30 tok/s),但模型思考量大导致实际体验偏慢;尝试 antirez 的 DS4 时,DeepSeek V4 Flash 持续速度只有约 8 tok/s,基本不可用。评论区征集同配置用户的本地模型选择。
「Infra」频道最新
- 台积电拟明年 CoWoS 先进封装涨价至多 20%，AI 芯片需求持续火爆 — Beth_Kindig · 2026-10-31
- effect-harness + Cloudflare：agent 循环自由拆到多台 VM 上跑 — samgoodwin89 · 2026-10-31
- 谷歌 Project Suncatcher 太空 TPU 首次在轨运行并返回结果 — sundarpichai · 2026-10-31
- Together AI 推出 Post-Training 平台:Agentic RL 训练托管服务 — togethercompute · 2026-10-31
- General Compute 融资 1 亿美元投推理算力，CoreWeave 股价同周创新低 — YvesMulkers · 2026-10-31
- 分析师警告 AI 算力「越买越涨」正反馈环,Kioxia 闪存涨价预警引发闪崩 — bookwormengr · 2026-10-31