DeepSeek 本地部署实战：4 张 W7900 还是两张 Blackwell？
Retumbo77 · reddit · 2026-08-24
一位用户正在权衡 DeepSeek 0731 Q4 模型的本地硬件配置方案。原计划升级至 6 张 RTX 3090（约 7000 美元），现在考虑换成 4 张 AMD W7900 48GB 或两张 RTX 5000 Blackwell 72GB（约 14000 美元）。目标是将模型作为编排器以 Agent 模式调用其他实例。用户询问在 Vulkan 或 ROCm 驱动下，这些“非主流”配置的实际推理速度（tokens/秒）如何。
「Infra」频道最新
- HotChips 会谈：所有加速器公司将押注 3D DRAM 或 zHBM — GavinSBaker · 2026-08-24
- 实测 Gemini Pro/Ultra、Claude Pro 速率限制：Prompt 缓存是关键 — CopycatProfessor · 2026-08-24
- 微软 Build 推出 Rayfin SDK 与 HorizonDB，打造统一 Agent 应用后端 — adnan_hashmi · 2026-08-24
- Hillock v0.5：用 SQLite 和 VSA 实现本地 Agent 轻量记忆 — Equivalent-Flan-1590 · 2026-08-24
- HotChips 观点：HBF 适用有限，能效比比成本更关键 — BenBajarin · 2026-08-24
- Qwen 2.5 27B 量化评测：Q4 足够，Q6 最稳 — Fun-Meaning-6474 · 2026-08-24