1.5 万美元预算选卡:跑 DeepSeek V4 Flash 至少要 128GB 显存
_TheWolfOfWalmart_ · reddit · 2026-09-12
一位 Reddit 用户为公司采购本地推理硬件求助:预算约 1.5 万美元,要求在 Dell R740 内以不超过 3 张卡本地运行 DSV4 Flash 等大模型,至少 128GB 显存且避免重度量化,兼顾 token 生成与 prompt 处理速度,支持 1-3 人并发。候选方案为 3× AMD MI210(192GB)或 3× NVIDIA A40(144GB),发帖人希望了解这两组卡在实际运行 DSV4 Flash、Qwen3.8-Flash-Next 等模型时的性能数据,并称云端租不到同款卡做测试。
「Infra」频道最新
- 用 $TAO 两分钟上手开源模型:Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28
- AI 代码潮致 CI 需求暴涨,Celesto 一周 CI 分钟数增长 9 倍并分享扩容细节 — aniketmaurya · 2026-10-28
- DeepMind 团队发布 Rust 虚拟机 Capsem,为 AI Agent 提供 hardened 隔离环境 — rakyll · 2026-10-28
- SemiAnalysis:OpenAI 正洽谈约 1GW TPU 租约并寻找场址 — dylan522p · 2026-10-28
- 实测 11 种视频超分方案:本地免费、Topaz 与云端全横评 — lopas99 · 2026-10-28
- 不稳定测算CEO站台解耦算力:要让AI迎来「宽带时刻」 — beffjezos · 2026-10-28