AMD 395/128GB 成本地 AI 性价比之选,SSD streaming 是关键
julianharris · x · 2026-09-20
Local AI newsletter 作者 Julian Harris 透露自己入手了一台 AMD 395/128GB 小主机,认为它目前是本地跑大模型的性价比平衡点。他特别提到 antirez 等人做的模型 SSD streaming(权重从固态硬盘流式加载)工作让大内存+NVMe 方案变得可行:
- 他希望能有 NVMe Gen 5 总线拿到 14.5GB/s 的吞吐来做 SSD streaming,但目前仍属小众;
- 395 内存上限 128GB 是硬伤,更多内存则太贵;
- 他会在即将发布的 newsletter 里解释为什么没在之前「本地 AI 终于可用」的文章里提 AMD。
「Infra」频道最新
- 16×H100 集群 Dynamo 部署指南：P/D 分离与 KV offload 实测 — TheZachMueller · 2026-09-20
- K8s 学习系列更新：日志监控与 Helm 讲解视频分享 — _jaydeepkarale · 2026-09-20
- 开发者分享系列视频：搞懂 Kubernetes 为什么存在 — _jaydeepkarale · 2026-09-20
- 想让人秒签 offer？送一台 DGX Station 当签字奖金就行 — Jasonio · 2026-09-20
- 内存涨价潮下现在买 Strix Halo 跑本地 LLM 划算吗 — -mattmason- · 2026-09-20
- 被盗账号刷出 8 万美元 AI 账单：主流厂商都不给硬性消费上限 — MaverikSh · 2026-09-20