5090/PRO 6000/Max-Q 本地推理横评开跑:同箱同槽只换卡
Street-Buyer-2428 · reddit · 2026-11-05
Reddit 用户发起一次少见的本地推理 GPU 对比:2x RTX 5090 vs 2x RTX PRO 6000 vs 2x RTX PRO 6000 Max-Q,统一放在 Threadripper PRO 9975WX + WRX90E 主板 + 128GB ECC + 1700W 电源的同一台机器、同一对 PCIe 槽里,一次只换卡,排除其他变量。
三种卡同用 GB202 芯片、1.79 TB/s 带宽,差异在 VRAM(32GB vs 96GB ECC)、功耗(575W / 600W / 300W)与散热。测试计划:
- 首测 Qwen3.8-27B(FP8 与 NVFP4,TP=2)
- 先跑纯基线,再加 MTP、DFlash2
- 在多档上下文长度下测 prefill、decode 与功耗
- 5090 额外测 stock 与 P2P 驱动解锁两轮
作者公开征集想看的测试项。5090 与 PRO 6000 纸面同芯片同带宽、实际差距多少,以及 300W Max-Q 掉到什么水平,都是组本地推理机的实用决策数据。
「Infra」频道最新
- Corebrum OS 新增内置 VNC,可在 Mac 远程查看 NVIDIA Thor 机器人 — chrismatthieu · 2026-11-05
- Modal 联手 SGLang 实现 Kimi K3.1 Pro 首日在线服务 — ying11231 · 2026-11-05
- 探访马来西亚：被低估的全球算力硬件供应链重镇 — davidyin44 · 2026-11-05
- 阿里 Qwen 团队发 SpecOPD：分支并行在线蒸馏加速投机解码 — Qwen · 2026-11-05
- Revolut 自托管 GLM 替代 Claude,编码推理成本降约 90% — sebkrier · 2026-11-05
- 半导体设备订单排到2029年，AI芯片争夺战把交货周期拉长至两年 — Gregory_C_Allen · 2026-11-05