AMD MI100 显卡实测:散热难且推理速度受限

faisalkl · reddit · 2026-09-02

一位用户分享了使用 AMD Instinct MI100 32GB 显卡跑本地大模型的糟糕体验。首先是散热问题,该卡需要高压静压风扇,否则不得不将功耗限制在 175-200W。其次性能方面,运行 Qwen 模型时,尽管带宽理论值达 1.2TB/s,但实际推理速度(20-40 t/s)远低于理论预期,甚至不如带宽更低的 R9 7000 系列。用户怀疑是核心频率受限或软件优化不足,向社区求助优化方案。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →