两千美元跑 27B 模型，本地 AI 硬件性价比盘点
max_paperclips · x · 2026-08-15
Jun Song 发布了本地 AI 硬件配置指南，展示了以低成本运行前沿智能的可能：
- $2k: RTX 3090 台式机 + Qwen3.8-27b
- $4k: DGX Spark + Deepseek-V4-Flash 2.5bit
- $7k: MacBook Pro M5 Max (128GB) + Deepseek-V4-Flash 2.5bit
- $12k: 3x DGX Spark + GLM-5.3 3bit DQ
评论指出，这意味着在 3 个月前无法想象的本地算力时代已经到来，无需云服务即可获得顶级模型能力与隐私安全。
「Infra」频道最新
- Meta 选择 MLX 做本地推理,Muse Spark Open 登陆 Mac Studio — awnihannun · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- Artificial Analysis 首测 Vera Rubin NVL72:每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Vera Rubin NVL72 实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16