RTX PRO 4000 Blackwell 70W 改 120W,27B 生成速度提升 67%
iam31337 · reddit · 2026-10-26
作者在仅 70W、无辅助供电的 RTX PRO 4000 Blackwell SFF(24GB GDDR7)上,用内存加载修改版 VBIOS(免刷写免焊接)把功耗上限提到 120W,并结合显存与核心超频跑基准:Qwen3.8 27B + DFlash2 生成速度从 35.04 提升到 58.53 tok/s(+67%,120W + VRAM +20% + 核心 +180MHz)。- 27B 在 120W 内持续受益;35B A3B 在 106-120W 间几乎持平- 显存 +33.3% 反而略降 27B 生成速度(57.70→56.91 tok/s),疑似显存与算力共享功耗预算;但 35B A3B 显存 +33.3% 却带来 +19.8% 生成提升- 结论:最优配置取决于实际工作负载(prefill vs decode),不是面板数字- 注意事项:120W 超出 PCIe 75W 插槽预算,有安全风险;样本量仅 1-3 次/配置,ECC OFF、量化方案不同,并非严格对照实验。完整数据与 CSV 见博客。
「Infra」频道最新
- AI 正在改写云架构:GPU、token 经济等成核心设计考量 — DavidLinthicum · 2026-10-26
- 实测:新硬件 BF16 矩阵乘法提速约 50%,但本地 MoE 推理解码几乎无感 — johnowhitaker · 2026-10-26
- DeepSeek 正迎来它的「Linux 时刻」:开放基建换生态共赢 — TheTuringPost · 2026-10-26
- 分析称 SpaceX 将成「超级算力云」,200+ neocloud 面临整合淘汰 — JOBhakdi · 2026-10-26
- 大厂 SWE 转战 AI Infra 创业一年:SGLang 贡献与成长复盘 — DrDatta_AIIMS · 2026-10-26
- Silicon Data 联手 CME 拟推可交易 LLM token 指数 — Beth_Kindig · 2026-10-26