4000美元128GB统一内存:AMD Strix Halo 迷你主机本地跑大模型实测
MooseEfficient2151 · reddit · 2026-10-20
TechPowerUp 评测引出的 Reddit 实操分享:AMD Ryzen AI Max+ 395(Strix Halo)迷你主机售价约4000美元,配备128GB统一内存,让Power用户能跑标准32GB显存GPU装不下的大模型本地推理。
与 NVIDIA DGX Spark 对比:DGX Spark 首 token 延迟更快、有 CUDA 生态和 fp8/fp4 支持,但128GB版本要7000美元。Strix Halo 支持 Windows 和 Linux,完全本地私有、无订阅无云依赖,代价是内存带宽较低、待机风扇有噪音、缺少高级精度格式。
楼主分享了实际用法:本地 LLM 之前真正的瓶颈是把整个代码库塞进 KV cache 时爆显存;他用128GB Strix Halo 机器加载 Qwen3.8-flash,通过 codex 配合 sumus 做本地多文件重构,模型和整个仓库同时放进统一内存,离线工作毫无压力。并询问是否有人已用单机 APU 替代多 GPU 方案。
「Infra」频道最新
- Google Cloud 伦敦区多服务故障，Revolut 与 Lloyds 等受波及 — neal_lathia · 2026-10-20
- 英伟达 5000 亿美元 AI 基建协议被曝无出处,私募债谈判进展缓慢 — mjdramstead · 2026-10-20
- 本地计算回潮：订阅费堆积与强制 AI 功能催生去云化转向 — DavidLinthicum · 2026-10-20
- DeepSeek 再开源 deepseek-recipe，复刻官方 API 的 token 编解码逻辑 — deepseek_ai · 2026-10-20
- DeepSeek 开源自研推理框架 DeepInfer，支撑 V4.1-Flash 生产级部署 — deepseek_ai · 2026-10-20
- Scott Hanselman 用 Surface Laptop 跑本地推理，给全屋设备共用 — lee_stott · 2026-10-20