散热被严重低估:MI50 跑 Qwen 风扇拉满从 6 t/s 提到 20 t/s
bigattichouse · reddit · 2026-11-07
作者实测本地推理时散热对速度影响巨大:MI50 显卡跑 Qwen Q6 量化模型,平时只有 6-8 tok/s;写脚本把全部风扇拉到 100% 转速后,立刻提升到约 12 tok/s;让机器充分降温后再跑推理,前 10 分钟左右能达到 17-20 tok/s,全程没有任何其他改动。
作者因此考虑上水冷加大散热排。结论很直接:本地部署时别忽视散热,GPU 温度降下来吞吐能翻数倍。
「Infra」频道最新
- Cloudflare 展望后量子隐私：盲签名新突破驱动 Privacy Pass 演进 — jedisct1 · 2026-11-07
- 算力不是大宗商品:同等硬件下每瓦 token 数差异巨大 — zephyr_z9 · 2026-11-07
- 弗吉尼亚「数据中心走廊」：3% 土地贡献全县 40% 税收 — aronchick · 2026-11-07
- JS 引擎 Porffor 发布 Node 兼容版，内存效率最高达 10 倍以上 — samgoodwin89 · 2026-11-07
- 数据中心选址之问：与其上天，为何不先做「好邻居」式数据中心？ — dansitu · 2026-11-07
- 分析师称微软取消 Nscale、IREN 租赁协议转向自建算力 — zephyr_z9 · 2026-11-07