两千美元跑 27B 模型,本地 AI 硬件性价比盘点
max_paperclips · x · 2026-08-15
Jun Song 发布了本地 AI 硬件配置指南,展示了以低成本运行前沿智能的可能:
- $2k: RTX 3090 台式机 + Qwen3.8-27b
- $4k: DGX Spark + Deepseek-V4-Flash 2.5bit
- $7k: MacBook Pro M5 Max (128GB) + Deepseek-V4-Flash 2.5bit
- $12k: 3x DGX Spark + GLM-5.3 3bit DQ
评论指出,这意味着在 3 个月前无法想象的本地算力时代已经到来,无需云服务即可获得顶级模型能力与隐私安全。
「Infra」频道最新
- 开源追赶闭源:质量差距仅剩数月 — togethercompute · 2026-08-15
- 英伟达拟削减 OpenAI 数据中心担保至 1200 亿美元 — rohanpaul_ai · 2026-08-15
- 英伟达拟将对 OpenAI 数据中心的担保从 2500 亿降至 1200 亿 — rohanpaul_ai · 2026-08-15
- Cloudflare 上线 DeepSeek V4:首百万 token 上下文模型 — ritakozlov · 2026-08-15
- 新指标显示密集模型在 bs=1 时受益显著 — teortaxesTex · 2026-08-15
- 监管机构加速AI设施并网:需自费基础设施 — pstAsiatech · 2026-08-15