花 6 万美元组 Mac 集群跑本地 LLM，性能仍不及 10 美元订阅
leebase65 · reddit · 2026-09-01
YouTube 博主 Alex Zisking 测试显示，即便使用 4 台总价 6 万美元的 Mac Studio 集群（2TB 内存）运行目前最强的开源模型 Kimi K3，开发一个简单网页仪表板仍需 4 小时，输出速度仅 17 tok/s。
相比之下，云订阅服务（如 Anthropic $20/月）仅需 15 分钟即可完成同等工作。作者认为，尽管本地 AI 理论上可行，但在普通硬件上远未达到替代云端 API 的实用水平。
「Infra」频道最新
- NVIDIA RTX Spark 正式发布，主打 Windows PC 本地跑 AI — ostrisai · 2026-10-16
- SkyRL 为 Beam 提供首日 RL 支持,LoRA 解码吞吐提升 62% — vllm_project · 2026-10-16
- DFlash2 为 Beam 解码提速最高 3.03 倍 — vllm_project · 2026-10-16
- Beam 长上下文服务优化:GB200 前向最快降 20% — vllm_project · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16
- 单卡 24GB 跑 Gemma 4 31B QAT：4090 上 46 tok/s，加草稿模型达 80 — Subject_Poet_3861 · 2026-10-16