从 16GB 到 128GB:一路升级本地 AI 硬件的经验
TheOyinbooke · x · 2026-09-28
作者分享自己跑本地 AI 的硬件升级历程:内存/显存从 16GB 一路加到 128GB,文章讲述了各阶段能跑什么模型、升级动机与实践体会,对想入坑本地部署的读者有参考价值。
「Infra」频道最新
- AI 不说自然语言只说 PTX?内核自动优化思路引热议 — teortaxesTex · 2026-09-28
- TrendForce 预测 2030 年全球数据中心电力缺口达 268GW — Beth_Kindig · 2026-09-28
- 算力股暴涨:戴尔年内涨338%,美光涨267%,英特尔涨226% — firstadopter · 2026-09-28
- 英伟达拟每季向中国供 50 万块 RTX Pro 5500,字节订单要两个季度才能交付 — pstAsiatech · 2026-09-28
- Nvidia 吐槽出口管制过时,称中国芯片厂 2022 年来空前增长 — pstAsiatech · 2026-09-28
- Liquid AI 主张端侧跑 Agent:350M-2.6B 模型,推理零按 token 计费 — JosephJacks_ · 2026-09-28