37ms 等待间隙让 GPU 近 40% 时间空转，修复后碎片化空闲基本消失
HankYeomans · x · 2026-10-11
作者分享一个推理性能优化的实际观察：CPU/RAM 侧造成的仅 37ms 的间隙，在 GPU 无事可做的情况下，会让 GPU 全程累计约 40% 的时间处于空闲等待。把这个间隙几乎消除后，大量微小空闲基本消失，GPU 利用率显著改善。
「Infra」频道最新
- 开发者实测:本地模型已能完成 90% 日常工作 — TheZachMueller · 2026-10-11
- token降价GPU紧俏,博主称Jevons悖论正在AI算力上演 — AccBalanced · 2026-10-11
- 实测本地 AI 写整应用:智能够用,速度仅 Claude 的 20-35% — julianharris · 2026-10-11
- 做个小 logger 查 OpenAI 账单，竟挖出 11.3 万美元月账单惨案 — Pangji1003 · 2026-10-11
- 马斯克喊话芯片工程师：Terafab 目标每年 10 款芯片设计 — elonmusk · 2026-10-11
- AI 公司成托扫货游戏卡，RTX 5090 被炒到 5000 美元 — chemist_slime · 2026-10-11