旧NVIDIA企业卡现代负载实测
eso_logic · reddit · 2026-07-13
作者用过去一年自制的 GPU 散热器和基准测试工具,评估了一批退役的 NVIDIA 企业卡在现代工作负载下是否还有价值。 ### 背景 - 低价卡如 P100(16GB)约 75 美元,V100(16GB)不到 200 美元。 - 配合便宜的 X99 Xeon 主板,可以得到一大批“闲置 VRAM”。 - 他承认这些卡存在软件生命周期结束、功耗差等问题,但认为做 homelab 时可以接受;不用时直接关机即可省电。 ### 测试内容 作者用 Docker 化的基准套件,在多种 Tesla 卡上测试了: - LLM - 计算机视觉 - Blender - Whisper - 其他现代工作负载 ### 主要结论 - **V100 是甜点位**:16GB 的 V100 表现出乎意料地接近更贵的 T40。 - **做 LLM 时 P40 比 P100 更合适**:与社区经验一致。 - **M60 很适合 Whisper**:在音频转写上表现惊人,甚至能超过 V100,价格约 50 美元。 - **扩展基本线性**:在 4U 机箱里堆卡没有明显的收益递减;混代时慢卡会拖慢 LLM 负载。 - **CPU/主板要求不高**:更快的单核 CPU 只在 Whisper 和视觉 Transformer 上略有帮助,便宜的 X99 主板和高 PCIe 通道 Xeon 基本够用。 作者还表示,希望继续补测更多工作负载。