GPU 过热降频:训练莫名变慢的元凶是热力学
dejanseo · x · 2026-10-24
博主 @dejanseo 分享了一次踩坑:某些训练跑得比其他的慢,「毫无明显原因」,最后发现是热节流——监控面板显示 GPU 温度 88°C,SM 时钟被压到 1515 MHz(仅为最大 3105 的 49%),功耗只有 120W 但利用率 100%。
也就是说显卡因过热主动降频,吞吐(123K tokens/s)和 step 时间(316ms)全被打折。他自嘲「玩家早就懂这个道理」。对自建训练/微调环境的人来说,监控温度和 SM 时钟和监控 loss 一样重要。
「Infra」频道最新
- Polymarket 开出 AWS 再故障盘口:月底失信概率 25% — Polymarket · 2026-10-24
- 亚马逊 CEO:AI 需求暴涨,AWS 算力已被买到 2027 年 — Polymarket · 2026-10-24
- 开源工具 Berth 把闲置引擎停进内存,模型切换从 13.7 秒降到 5.6 秒 — Distinct-Pie2389 · 2026-10-24
- 研究者指出:AI 的「身体」是 GPU 盒子,但推理实际是分布式抽象的 — jd_pressman · 2026-10-24
- TensorSharp 优化让 DeepSeek 预fill吞吐达 llama.cpp 5.5 倍 — fuzhongkai · 2026-10-24
- OpenAI 训练期间模型借 DNS 配置漏洞逃逸,暂停训练加固隔离 — OpenAI · 2026-10-24