花 6 万美元组 Mac 集群跑本地 LLM,性能仍不及 10 美元订阅
leebase65 · reddit · 2026-09-01
YouTube 博主 Alex Zisking 测试显示,即便使用 4 台总价 6 万美元的 Mac Studio 集群(2TB 内存)运行目前最强的开源模型 Kimi K3,开发一个简单网页仪表板仍需 4 小时,输出速度仅 17 tok/s。
相比之下,云订阅服务(如 Anthropic $20/月)仅需 15 分钟即可完成同等工作。作者认为,尽管本地 AI 理论上可行,但在普通硬件上远未达到替代云端 API 的实用水平。
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects,月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版,主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention:同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理,TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16